인간 감독 (Human Oversight)
term_id: human_oversight
Category: ethics_safety
Definition
인간 감독은 인간이 AI 기반 결정이나 행동을 모니터링, 평가 및 개입하는 메커니즘과 프로세스를 의미합니다. 이 개념은 자동화 시스템이 작동할 때(op…)
Summary
안전성, 정확성 및 윤리적 준수를 보장하기 위해 자동화된 AI 시스템에 대한 인간의 통제와 검토를 유지하는 관행입니다.
Key Concepts
- 인간-투-루프 (Human-in-the-loop)
- 책임성
- 안전 모니터링
- 윤리적 준수
Use Cases
- 치료 전 AI 생성 의료 진단 검토
- 경계 사례 발생 시 자율주행차 개입 모니터링
- 알고리즘 채용 결정의 편향 감사