Självkonsistens
term_id: self_consistency
Category: training_techniques
Definition
Denna teknik används främst med stora språkmodeller (LLM) för att förbättra noggrannheten genom att generera flera olika svar på en prompt via sampling. Istället för att förlita sig på girig avkodning (greedy decoding), aggregeras resultaten för att hitta den mest sannolika och konsistenta lösningen, vilket minskar risken för hallucinationer.
Summary
Självkonsistens är en avkodningsstrategi där flera resonemangsvägar sampleas och det mest frekventa svaret väljs som slutgiltig utdata.
Key Concepts
- Majoritetsröstning
- Avkodningsstrategi
- LLM-resonemang
- Minskning av hallucinationer
Use Cases
- Matematiska ordproblem
- Komplex logisk deduktion
- Uppgifter inom kodgenerering