Selvkonsistens
term_id: self_consistency
Category: training_techniques
Definition
Denne teknikken brukes primært med store språkmodeller (LLM) og forbedrer nøyaktigheten ved å generere flere varierte svar på en forespørsel gjennom sampling. I stedet for å stole på grådig dekoding, aggregeres resultatene for å finne den mest sannsynlige konsensusen.
Summary
Selvkonsistens er en dekodingsstrategi der flere resonnementstier blir sampled, og det mest hyppige svaret velges som endelig utdata.
Key Concepts
- Flertallsavstemming
- Dekodingsstrategi
- LLM-resonnement
- Reduksjon av hallusinasjoner
Use Cases
- Matematiske ordproblemer
- Kompleks logisk deduksjon
- Oppgaver med kodegenerering