Menselijke toezicht
term_id: human_oversight
Category: ethics_safety
Definition
Menselijk toezicht verwijst naar de mechanismen en processen waarbij mensen AI-gestuurde beslissingen of acties monitoren, evalueren en erin interveniëren. Dit concept is cruciaal om ervoor te zorgen dat geautomatiseerde systemen veilig en verantwoord opereren.
Summary
De praktijk van het behouden van menselijke controle en beoordeling over geautomatiseerde AI-systemen om veiligheid, nauwkeurigheid en ethische naleving te garanderen.
Key Concepts
- Human-in-the-loop
- Verantwoordelijkheid
- Veiligheidsmonitoring
- Ethische naleving
Use Cases
- Beoordelen van door AI gegenereerde medische diagnoses voordat met de behandeling wordt begonnen
- Monitoren van ingrepen bij autonome voertuigen tijdens edge cases
- Controleren van algoritmische aanwervingsbeslissingen op bias