Supervision Humaine
term_id: human_oversight
Category: ethics_safety
Definition
La supervision humaine fait référence aux mécanismes et processus par lesquels les humains surveillent, évaluent et interviennent dans les décisions ou actions pilotées par l’IA. Ce concept est crucial pour garantir que les systèmes automatisés fonctionnent de manière sûre et responsable.
Summary
La pratique consistant à maintenir le contrôle humain et la révision des systèmes d’IA automatisés afin d’assurer la sécurité, la précision et la conformité éthique.
Key Concepts
- Humain dans la boucle
- Responsabilité
- Surveillance de la Sécurité
- Conformité Éthique
Use Cases
- Revoir les diagnostics médicaux générés par l’IA avant le traitement
- Surveiller les interventions des véhicules autonomes lors de cas limites
- Auditer les décisions de recrutement algorithmiques pour détecter les biais