Hallucinatie
term_id: hallucination
Category: application_paradigms
Definition
Hallucinaties treden op wanneer generatieve AI-modellen output produceren die plausibel lijkt, maar geen grond heeft in de werkelijkheid of brondata. Dit is een aanzienlijke uitdaging in toepassingen die hoge nauwkeurigheid vereisen.
Summary
Wanneer een AI-model zelfverzekerde maar feitelijk onjuiste of nonsensische informatie genereert.
Key Concepts
- Feitelijke juistheid
- Generatieve fout
- Vertrouwenskalibratie
- Gronding (koppeling aan feiten)
Use Cases
- Het identificeren van fouten in automatisch gegenereerde rapporten
- Ontwikkelen van retrieval-augmented generation (RAG) om fouten te verminderen
- Het evalueren van modelbetrouwbaarheid bij kritieke besluitvorming