Hallucináció
term_id: hallucination
Category: application_paradigms
Definition
A hallucinációk akkor fordulnak elő, amikor a generatív AI modellek plauzibilisnek tűnő, de a valóságra vagy a forrásadatokra nem alapozott kimenetet állítanak elő. Ez jelentős kihívást jelent a magas pontosságot igénylő alkalmazásokban…
Summary
Amikor egy AI modell magabiztosan, de tényellenes vagy értelmetlen információt generál.
Key Concepts
- Ténybeliség
- Generatív hiba
- Bizalomkalibráció
- Alapozás (Grounding)
Use Cases
- Hibák azonosítása automatikus jelentésgenerálás során
- Retrieval-Augmented Generation (RAG) fejlesztése a hibák csökkentésére
- Modell megbízhatóságának értékelése kritikus döntéshozatalnál