Hallucination
term_id: hallucination
Category: application_paradigms
Definition
Hallucinerade svar uppstår när generativa AI-modeller producerar utdata som verkar trovärdiga men saknar förankring i verkligheten eller källdata. Detta utgör en betydande utmaning i applikationer som kräver hög noggrannhet.
Summary
När en AI-modell genererar information som den framstår som säker men som är faktiskt felaktig eller nonsensisk.
Key Concepts
- Fakticitet
- Genereringsfel
- Konfidenskalibrering
- Förankring (grounding)
Use Cases
- Identifiering av fel i automatisk rapportgenerering
- Utveckling av hämtning-förstärkt generering (RAG) för att minska fel
- Utvärdering av modellens tillförlitlighet vid kritiska beslutsfattanden