Zelfconsistentie
term_id: self_consistency
Category: training_techniques
Definition
Deze techniek wordt voornamelijk gebruikt bij Large Language Models (LLM’s) om de nauwkeurigheid te verbeteren door meerdere diverse reacties op een prompt te genereren via bemonstering. In plaats van te vertrouwen op ‘greedy’ decoding, wordt er geaggregeerd
Summary
Zelfconsistentie is een decoderingsstrategie waarbij meerdere redeneringspaden worden bemonsterd en het meest voorkomende antwoord wordt geselecteerd als de uiteindelijke uitvoer.
Key Concepts
- Meervoudsstemming
- Decoderingsstrategie
- Redenering bij LLM’s
- Vermindering van hallucinaties
Use Cases
- Wiskundige woordproblemen
- Complexe logische deductie
- Taken voor codesynthese