Pengawasan Manusia
term_id: human_oversight
Category: ethics_safety
Definition
Pengawasan manusia merujuk pada mekanisme dan proses di mana manusia memantau, mengevaluasi, dan melakukan intervensi dalam keputusan atau tindakan yang digerakkan oleh AI. Konsep ini sangat penting untuk memastikan bahwa sistem otomatis beroperasi sesuai dengan standar keselamatan dan etika.
Summary
Praktik mempertahankan kontrol dan tinjauan manusia atas sistem AI otomatis untuk memastikan keamanan, akurasi, dan kepatuhan etis.
Key Concepts
- Manusia dalam Lingkaran (Human-in-the-loop)
- Akuntabilitas
- Pemantauan Keamanan
- Kepatuhan Etis
Use Cases
- Meninjau diagnosis medis yang dihasilkan AI sebelum perawatan diberikan
- Memantau intervensi kendaraan otonom selama kasus tepi (edge cases)
- Mengevaluasi keputusan perekrutan berbasis algoritma untuk mendeteksi bias
Related Terms
- AI yang Dapat Dijelaskan (Explainable AI - AI yang keputusannya dapat dipahami manusia)
- Bias Algoritma (Ketidakadilan sistematis dalam output AI)
- Manusia dalam Lingkaran (Human-in-the-loop - Sistem di mana manusia terlibat dalam loop keputusan)
- Tata Kelola AI (AI Governance - Kerangka kerja pengelolaan sistem AI)