幻觉
term_id: hallucination
Category: application_paradigms
Definition
当生成式AI模型产生的输出看似合理，但缺乏现实或源数据的支撑时，就会发生幻觉。这是在对准确性要求极高的应用中面临的一个重大挑战。
Summary
当AI模型生成自信但事实错误或无意义的信息时。
Key Concepts
- 事实性
- 生成错误
- 置信度校准
- 接地 (Grounding)
Use Cases
- 识别自动化报告生成中的错误
- 开发检索增强生成（RAG）以减少错误
- 评估模型在关键决策中的可靠性