Hallusinasjon
term_id: hallucination
Category: application_paradigms
Definition
Hallusinasjoner oppstår når generative AI-modeller produserer utdata som ser plausibel ut, men som mangler forankring i virkeligheten eller kilde-data. Dette er en betydelig utfordring i applikasjoner som krever høy nøyaktighet.
Summary
Når en AI-modell genererer troverdig, men faktuell feilaktig eller meningsløs informasjon.
Key Concepts
- Faktisitet
- Generativ feil
- Konfidenskalibrering
- Forankring
Use Cases
- Identifisering av feil i automatisert rapportgenerering
- Utvikling av henting-forsterket generering (RAG) for å redusere feil
- Vurdering av modellens pålitelighet i kritiske beslutningsprosesser