Instruction Tuning
term_id: instruction_tuning
Category: training_techniques
Definition
Questo processo colma il divario tra il pre-addestramento generale e le prestazioni specifiche sui compiti. Esponendo il modello a coppie diversificate di istruzione-risposta, esso impara a generalizzare a compiti non visti in precedenza senza
Summary
L’Instruction Tuning è una tecnica di affinamento in cui un modello linguistico pre-addestrato viene addestrato su un insieme di dati contenente istruzioni e le relative risposte per migliorare la capacità di seguire i compiti.
Key Concepts
- Fine-tuning
- Apprendimento Supervisionato
- Generalizzazione Zero-shot
- Allineamento Umano
Use Cases
- Creazione di chatbot
- Miglioramento dell’accuratezza nella generazione di codice
- Allineamento dei modelli con linee guida di sicurezza