Supervisión Humana
term_id: human_oversight
Category: ethics_safety
Definition
La supervisión humana se refiere a los mecanismos y procesos mediante los cuales los humanos monitorean, evalúan e intervienen en las decisiones o acciones impulsadas por la IA. Este concepto es crítico para asegurar que los sistemas automatizados operen dentro de parámetros seguros y éticos.
Summary
La práctica de mantener el control humano y la revisión sobre los sistemas automatizados de IA para garantizar la seguridad, precisión y cumplimiento ético.
Key Concepts
- Humano en el Bucle
- Responsabilidad
- Monitoreo de Seguridad
- Cumplimiento Ético
Use Cases
- Revisar diagnósticos médicos generados por IA antes del tratamiento
- Monitorear intervenciones en vehículos autónomos durante casos límite
- Auditar decisiones de contratación algorítmicas en busca de sesgos