Affinamento Supervisionato

Definition

L’Affinamento Supervisionato (SFT) consiste nel prendere un grande modello pre-addestrato, come un modello linguistico, e continuare il suo addestramento su un dataset più piccolo e di alta qualità etichettato per un compito specifico.

Summary

Il processo di ulteriore addestramento di un modello pre-addestrato su un dataset specifico per adattarlo a un compito o dominio particolare.

Key Concepts

• Modelli Pre-addestrati
• Apprendimento per Trasferimento
• Ottimizzazione delle Istruzioni
• Adattamento al Dominio

Use Cases

• Sviluppo di chatbot personalizzati
• Sistemi di domanda e risposta medici specializzati
• Assistenti per la generazione di codice

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related Terms

• Pre-training (pre-addestramento)
• Reinforcement Learning from Human Feedback (apprendimento per rinforzo dal feedback umano)
• Prompt Engineering (ingegneria dei prompt)
• LLM (Large Language Model / Grande Modello Linguistico)