Affinage supervisé
term_id: supervised_fine_tuning
Category: training_techniques
Definition
L’affinage supervisé (SFT) consiste à prendre un grand modèle pré-entraîné, tel qu’un modèle de langage, et à poursuivre son entraînement sur un petit jeu de données de haute qualité étiqueté pour une tâche descendante spécifique.
Summary
Le processus d’entraînement supplémentaire d’un modèle pré-entraîné sur un jeu de données spécifique pour l’adapter à une tâche ou un domaine particulier.
Key Concepts
- Modèles pré-entraînés
- Apprentissage par transfert
- Réglage des instructions
- Adaptation au domaine
Use Cases
- Développement de chatbots personnalisés
- Systèmes de questions-réponses médicaux spécialisés
- Assistants de génération de code
Code Example
model.train()
for batch in dataloader:
inputs, labels = batch
outputs = model(inputs, labels=labels)
loss = outputs.loss
loss.backward()
optimizer.step()