환각 (Hallucination)

term_id: hallucination

Category: application_paradigms

Definition

환각은 생성형 AI 모델이 현실이나 원본 데이터에 기반하지는 않지만 그럴듯해 보이는 출력을 생성할 때 발생합니다. 이는 높은 정확도가 요구되는 애플리케이션에서 주요한 과제로 작용합니다.

Summary

AI 모델이 사실과 다르거나 의미 없는 정보를 확신에 차서 생성하는 현상.

Key Concepts

사실성 (Factuality)
생성 오류 (Generative Error)
신뢰도 보정 (Confidence Calibration)
접지 (Grounding)

Use Cases

자동 보고서 생성에서의 오류 식별
오류 감소를 위한 검색 증강 생성(RAG) 개발
중요한 의사결정 과정에서의 모델 신뢰도 평가