Человек в контуре (Human-in-the-Loop)
term_id: human_in_the_loop
Category: ethics_safety
Definition
Концепция «человек в контуре» (HITL) относится к системам искусственного интеллекта, требующим вмешательства человека на различных этапах рабочего процесса, таких как разметка данных, оценка модели или утверждение окончательного решения. Этот подход обеспечивает…
Summary
Архитектура системы, при которой человек активно участвует в процессе принятия решений или предоставления обратной связи для ИИ-модели.
Key Concepts
- Контур обратной связи
- Подотчетность
- Валидация
- Надзор
Use Cases
- Проверка медицинских диагнозов
- Ревизия модерации контента
- Утверждение операций по выявлению финансового мошенничества