Hallucination
term_id: hallucination
Category: application_paradigms
Definition
Hallucinationer opstår, når generative AI-modeller producerer output, der ser plausibelt ud, men mangler forankring i virkeligheden eller kilddata. Dette er en betydelig udfordring i applikationer, der kræver høj nøjagtighed.
Summary
Når en AI-model genererer troværdigt, men faktuel forkert eller meningsløs information.
Key Concepts
- Faktualitet
- Generativ fejl
- Konfidenskalibrering
- Forankring
Use Cases
- Identifikation af fejl i automatiseret rapportgenerering
- Udvikling af retrieval-augmented generation (RAG) for at reducere fejl
- Vurdering af modellens pålidelighed i kritiske beslutninger