Spójność wewnętrzna
term_id: self_consistency
Category: training_techniques
Definition
Głównie stosowana w przypadku dużych modeli językowych (LLM), technika ta poprawia dokładność poprzez generowanie kilku zróżnicowanych odpowiedzi na podpowiedź za pomocą próbkowania. Zamiast polegać na dekodowaniu zachłannym, agreguje…
Summary
Spójność wewnętrzna to strategia dekodowania, w której próbkowane są wiele ścieżek rozumowania, a najczęściej występująca odpowiedź jest wybierana jako wynik końcowy.
Key Concepts
- Głosowanie większościowe
- Strategia dekodowania
- Rozumowanie LLM
- Redukcja halucynacji
Use Cases
- Rozwiązywanie zadań matematycznych
- Złożone wnioskowanie logiczne
- Zadania syntezy kodu