Ajustement par instruction
term_id: instruction_tuning
Category: training_techniques
Definition
Ce processus comble le fossé entre le pré-entraînement général et la performance spécifique aux tâches. En exposant le modèle à divers paires instruction-réponse, il apprend à généraliser à des tâches invisibles sans…
Summary
L’ajustement par instruction est une technique de réglage fin où un modèle de langage pré-entraîné est entraîné sur un ensemble de données d’instructions et leurs réponses correspondantes pour améliorer sa capacité à suivre les tâches.
Key Concepts
- Réglage fin
- Apprentissage supervisé
- Généralisation zéro-shot
- Alignement humain
Use Cases
- Construction de chatbots
- Amélioration de la précision de la génération de code
- Alignement des modèles avec les directives de sécurité