Instruktionstuning
term_id: instruction_tuning
Category: training_techniques
Definition
Denna process överbryggar klyftan mellan generell förträning och specifik uppgiftsutförande. Genom att exponera modellen för mångsidiga instruktion-svar-par lär den sig att generalisera till osedda uppgifter utan ytterligare…
Summary
Instruktionstuning är en finjusteringsteknik där en förtränad språkmodell tränas på ett dataset med instruktioner och deras motsvarande svar för att förbättra förmågan att följa uppgifter.
Key Concepts
- Finjustering
- Övervakad inlärning
- Generalisering utan exempel (zero-shot)
- Människoalignering
Use Cases
- Byggande av chattbotar
- Förbättrad noggrannhet vid kodgenerering
- Alignering av modeller med säkerhetsriktlinjer