설명 가능한 인공지능

term_id: explainable_artificial_intelligence

Category: basic_concepts

Definition

딥 뉴럴 네트워크 등 머신러닝 모델이 복잡해짐에 따라 의사결정 과정은 종종 불투명한 ‘블랙박스’가 됩니다. XAI는 이러한 의사결정을 해석 가능하고 신뢰할 수 있도록 만들어, 전문가가 모델의 판단 근거를 이해하고 검증할 수 있도록 합니다.

Summary

인공지능 기술의 적용 결과물이 인간 전문가에게 이해될 수 있도록 하는 방법론과 기술을 지칭하는 설명 가능한 AI(XAI).

Key Concepts

해석 가능성
투명성
신뢰성
블랙박스 모델

Use Cases

의사가 치료 계획을 정당화해야 하는 의료 진단
규제 준수가 필요한 금융 대출 결정
자율주행차 안전 감사