Affinage supervisé

Definition

L’affinage supervisé (SFT) consiste à prendre un grand modèle pré-entraîné, tel qu’un modèle de langage, et à poursuivre son entraînement sur un petit jeu de données de haute qualité étiqueté pour une tâche descendante spécifique.

Summary

Le processus d’entraînement supplémentaire d’un modèle pré-entraîné sur un jeu de données spécifique pour l’adapter à une tâche ou un domaine particulier.

Key Concepts

• Modèles pré-entraînés
• Apprentissage par transfert
• Réglage des instructions
• Adaptation au domaine

Use Cases

• Développement de chatbots personnalisés
• Systèmes de questions-réponses médicaux spécialisés
• Assistants de génération de code

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related Terms

• Pré-entraînement (phase initiale d’apprentissage sur de grandes données)
• Apprentissage par renforcement à partir du feedback humain (RLHF)
• Ingénierie des invites (Prompt Engineering)
• LLM (Grand Modèle de Langage)