Halucinație
term_id: hallucination
Category: application_paradigms
Definition
Halucinațiile apar când modelele generative de AI produc ieșiri care par plauzibile, dar care nu sunt fundamentate în realitate sau în datele sursă. Aceasta reprezintă o provocare semnificativă în aplicațiile care necesită acuratețe ridicată.
Summary
Când un model AI generează informații confiante, dar factual incorecte sau nonsensice.
Key Concepts
- Factualitate
- Eroare Generativă
- Calibrarea Încrederii
- Fundamentare (Grounding)
Use Cases
- Identificarea erorilor în generarea automată de rapoarte
- Dezvoltarea generării augmentate prin recuperare (RAG) pentru reducerea erorilor
- Evaluarea fiabilității modelului în luarea deciziilor critice