Instruktionsjustering

term_id: instruction_tuning

Category: training_techniques

Definition

Denne proces overbruser kløften mellem generel fortræning og specifik opgavepræstation. Ved at udsætte modellen for forskellige instruks-svar-par lærer den at generalisere til usete opgaver uden ad

Summary

Instruktionsjustering er en finjusteringsteknik, hvor en fortrænelt sprogmodel trænes på et datasæt af instrukser og deres tilsvarende svar for at forbedre evnen til at følge opgaver.

Key Concepts

  • Finjustering
  • Overvåget læring
  • Zero-shot generalisering
  • Menneskelig tilpasning

Use Cases

  • Udvikling af chatbots
  • Forbedring af nøjagtigheden af kodegenerering
  • Tilpasning af modeller til sikkerhedsretningslinjer