Instruksjonstilpasning
term_id: instruction_tuning
Category: training_techniques
Definition
Denne prosessen bridge gapen mellom generell forhåndstrening og spesifikk oppgaveprestasjon. Ved å eksponere modellen for varierte instruksjon-svar-par, lærer den å generalisere til u sette oppgaver uten ad
Summary
Instruksjonstilpasning er en finjusteringsteknikk der en forhåndstrent språkmodell trenes på et datasett med instruksjoner og deres tilsvarende svar for å forbedre evnen til å følge oppgaver.
Key Concepts
- Finjustering
- Overvåket læring
- Null-skudd generalisering
- Menneskelig tilpasning
Use Cases
- Bygge chatbots
- Forbedre nøyaktigheten i kodegenerering
- Tilpasse modeller til sikkerhetsretningslinjer