Menschliche Aufsicht
term_id: human_oversight
Category: ethics_safety
Definition
Menschliche Aufsicht bezeichnet die Mechanismen und Prozesse, bei denen Menschen KI-gesteuerte Entscheidungen oder Aktionen überwachen, bewerten und eingreifen. Dieses Konzept ist entscheidend, um sicherzustellen, dass automatisierte Systeme…
Summary
Die Praxis, die menschliche Kontrolle und Überprüfung über automatisierte KI-Systeme aufrechtzuerhalten, um Sicherheit, Genauigkeit und ethische Konformität zu gewährleisten.
Key Concepts
- Human-in-the-loop
- Verantwortlichkeit
- Sicherheitsüberwachung
- Ethische Konformität
Use Cases
- Überprüfung KI-generierter medizinischer Diagnosen vor der Behandlung
- Überwachung autonomer Fahrzeugeingriffe in Randfällen
- Prüfung algorithmischer Einstellungsentscheidungen auf Verzerrung