Selvkonsistens
term_id: self_consistency
Category: training_techniques
Definition
Denne teknik bruges primært sammen med Store Sprogmodeller (LLM’er) og forbedrer nøjagtigheden ved at generere flere forskellige svar til et prompt via sampling. I stedet for at stole på grådig decodning (greedy decoding), aggregere den de mest konsistente svar for at finde den mest sandsynlige løsning.
Summary
Selvkonsistens er en decodningsstrategi, hvor flere ræsonnementsspor samples, og det mest hyppige svar vælges som det endelige output.
Key Concepts
- Flertalsafstemning
- Decodningsstrategi
- LLM-ræsonnement
- Reducering af hallucinationer
Use Cases
- Matematiske ordproblemer
- Kompleks logisk deduktion
- Opgaver inden for kodegenerering