Человеческий надзор
term_id: human_oversight
Category: ethics_safety
Definition
Человеческий надзор относится к механизмам и процессам, при которых люди контролируют, оценивают и вмешиваются в решения или действия, принимаемые системами на основе ИИ. Эта концепция критически важна для обеспечения того, чтобы автоматизированные системы функционировали безопасно и этично.
Summary
Практика сохранения человеческого контроля и проверки автоматизированных систем ИИ для обеспечения безопасности, точности и этического соответствия.
Key Concepts
- Человек в контуре (Human-in-the-loop)
- Подотчетность
- Мониторинг безопасности
- Этическое соответствие
Use Cases
- Проверка медицинских диагнозов, сгенерированных ИИ, перед назначением лечения
- Мониторинг вмешательств автономных транспортных средств в сложных ситуациях
- Аудит алгоритмических решений о найме на предмет предвзятости