Samokonzistence
term_id: self_consistency
Category: training_techniques
Definition
Tato technika, primárně používaná u velkých jazykových modelů (LLM), zlepšuje přesnost generováním několika různorodých odpovědí na zadání pomocí vzorkování. Místo spoléhání se na chamtivé dekódování agreguje
Summary
Samokonzistence je strategie dekódování, při které se vzorkuje více cest úsudku a nejčastější odpověď je vybrána jako finální výstup.
Key Concepts
- Hlasování většiny
- Strategie dekódování
- Úsudek LLM
- Snížení halucinací
Use Cases
- Matematické slovní úlohy
- Složitá logická dedukce
- Úkoly syntézy kódu