블랙박스
term_id: black_box
Category: basic_concepts
Definition
AI에서 블랙박스 모델은 딥 뉴럴 네트워크와 같은 복잡한 시스템을 지칭하며, 내부 의사결정 논리는 불투명하고 인간이 해석하기 어렵습니다. 이러한 모델은 종종 높은 성능을 달성하지만, 그 결정 과정의 투명성이 부족하다는 문제가 있습니다.
Summary
내부 메커니즘이 숨겨져 있고 입력과 출력만 관찰 가능한 시스템입니다.
Key Concepts
- 해석 가능성
- 불투명성
- 입출력 매핑
- 설명 가능한 AI
Use Cases
- 딥러닝 모델
- 독점 알고리즘
- 복잡한 예측 시스템