Ajustare prin instrucțiuni
term_id: instruction_tuning
Category: training_techniques
Definition
Acest proces închide decalajul dintre pre-antrenamentul general și performanța specifică pe sarcini. Prin expunerea modelului la perechi diverse de instrucțiune-răspuns, acesta învață să generalizeze către sarcini nevăzute fără a fi nevoie de ajustări suplimentare ale parametrilor pentru fiecare caz specific, aliniindu-se astfel mai bine cu așteptările umane.
Summary
Ajustarea prin instrucțiuni este o tehnică de fine-tuning în care un model de limbaj pre-antrenat este antrenat pe un set de date de instrucțiuni și răspunsurile corespunzătoare, pentru a îmbunătăți capacitatea de a urma sarcini.
Key Concepts
- Fine-tuning
- Învățare supravegheată
- Generalizare zero-shot
- Aliniere umană
Use Cases
- Construcția chatboților
- Îmbunătățirea acurateței generării de cod
- Alinierea modelelor cu ghiduri de siguranță