Selvkonsistens

term_id: self_consistency

Category: training_techniques

Definition

Denne teknik bruges primært sammen med Store Sprogmodeller (LLM’er) og forbedrer nøjagtigheden ved at generere flere forskellige svar til et prompt via sampling. I stedet for at stole på grådig decodning (greedy decoding), aggregere den de mest konsistente svar for at finde den mest sandsynlige løsning.

Summary

Selvkonsistens er en decodningsstrategi, hvor flere ræsonnementsspor samples, og det mest hyppige svar vælges som det endelige output.

Key Concepts

  • Flertalsafstemning
  • Decodningsstrategi
  • LLM-ræsonnement
  • Reducering af hallucinationer

Use Cases

  • Matematiske ordproblemer
  • Kompleks logisk deduktion
  • Opgaver inden for kodegenerering