Halluzination
term_id: hallucination
Category: application_paradigms
Definition
Halluzinationen treten auf, wenn generative KI-Modelle Ausgaben erzeugen, die plausibel erscheinen, aber keine Grundlage in der Realität oder den Quelldaten haben. Dies stellt eine erhebliche Herausforderung in Anwendungen dar, die hohe Genauigkeit erfordern…
Summary
Wenn ein KI-Modell vertrauenswürdige, aber faktisch falsche oder unsinnige Informationen generiert.
Key Concepts
- Faktizität
- Generativer Fehler
- Konfidenzkalibrierung
- Verankerung (Grounding)
Use Cases
- Identifizierung von Fehlern bei der automatisierten Berichterstellung
- Entwicklung von Retrieval-Augmented Generation (RAG) zur Reduzierung von Fehlern
- Bewertung der Modellzuverlässigkeit bei kritischen Entscheidungsprozessen