ハルシネーション

term_id: hallucination

Category: application_paradigms

Definition

ハルシネーションは、生成AIモデルが現実やソースデータに基づいていないが、一見もっともらしく見える出力を生み出す現象です。高い精度が求められるアプリケーションにおいて、これは重大な課題となります。

Summary

AIモデルが、自信満々に事実誤認または意味不明な情報を生成すること。

Key Concepts

事実性
生成エラー
信頼度キャリブレーション
グラウンディング

Use Cases

自動レポート生成における誤りの特定
エラーを減らすための検索拡張生成（RAG）の開発
重要な意思決定におけるモデルの信頼性評価