İnsan Denetimi
term_id: human_oversight
Category: ethics_safety
Definition
İnsan denetimi, insanların yapay zeka destekli kararları veya eylemleri izlediği, değerlendirdiği ve müdahale ettiği mekanizmaları ve süreçleri ifade eder. Bu kavram, otomatik sistemlerin güvenli ve etik standartlara uygun çalışmasını sağlamak için kritik öneme sahiptir.
Summary
Güvenliği, doğruluğu ve etik uyumluluğu sağlamak amacıyla otomatik yapay zeka sistemleri üzerinde insan kontrolü ve incelemesini sürdürme uygulaması.
Key Concepts
- İnsan Döngüsü İçinde (Human-in-the-loop)
- Sorumluluk
- Güvenlik İzleme
- Etik Uyumluluk
Use Cases
- Tedavi başlamadan önce yapay zeka tarafından üretilen tıbbi tanıların gözden geçirilmesi
- Kritik durumlar sırasında otonom araç müdahalelerinin izlenmesi
- Algoritmik işe alım kararlarında önyargı açısından denetlenmesi