Halucinace
term_id: hallucination
Category: application_paradigms
Definition
Halucinace nastávají, když generativní AI modely produkují výstupy, které vypadají uvěřitelně, ale postrádají oporu v realitě nebo zdrojových datech. Jedná se o významnou výzvu v aplikacích vyžadujících vysokou přesnost a spolehlivost informací.
Summary
Když AI model generuje sebevědomé, ale fakticky nesprávné nebo nesmyslné informace.
Key Concepts
- Faktičnost
- Chyba generování
- Kalibrace sebevědomí
- Zakotvení (Grounding)
Use Cases
- Identifikace chyb při automatizovaném generování zpráv
- Vývoj generování s podporou vyhledávání (RAG) ke snížení chyb
- Hodnocení spolehlivosti modelu při kritickém rozhodování