Auto-consistenza
term_id: self_consistency
Category: training_techniques
Definition
Principalmente utilizzata con i Modelli Linguistici di Grande Dimensione (LLM), questa tecnica migliora l’accuratezza generando diverse risposte diversificate a un prompt tramite campionamento. Invece di affidarsi alla decodifica greedy, aggrega i risultati per trovare il consenso.
Summary
L’auto-consistenza è una strategia di decodifica in cui vengono campionate più percorsi di ragionamento e la risposta più frequente viene selezionata come output finale.
Key Concepts
- Voto di maggioranza
- Strategia di decodifica
- Ragionamento LLM
- Riduzione delle allucinazioni
Use Cases
- Problemi matematici complessi
- Deduzione logica articolata
- Attività di sintesi del codice
Related Terms
- Catena di pensiero (tecnica che guida il modello a ragionare passo dopo passo)
- Campionamento della temperatura (controllo della casualità nella generazione del testo)
- Metodi ensemble (combinazione di più modelli per migliorare le prestazioni)
- Ingegneria dei prompt (progettazione di input ottimali per i modelli linguistici)