휴먼 인 더 루프 (Human-in-the-Loop)
term_id: human_in_the_loop
Category: ethics_safety
Definition
휴먼 인 더 루프(HITL)는 데이터 라벨링, 모델 평가, 최종 의사결정 승인 등 워크플로우의 다양한 단계에서 인간의 개입이 필요한 AI 시스템을 의미합니다. 이 접근 방식은 AI 시스템의 정확성과 신뢰성을 보장하며, 특히 윤리적 판단이나 복잡한 맥락이 필요한 상황에서 인간의 판단력을 보완하는 데 필수적입니다.
Summary
인간이 AI 모델의 의사결정 또는 피드백 과정에 적극적으로 참여하는 시스템 설계 방식.
Key Concepts
- 피드백 루프
- 책임성
- 검증
- 감독
Use Cases
- 의료 진단 검증
- 콘텐츠 모더레이션 검토
- 금융 사기 탐지 승인