Diskriminasi Algoritmik
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Fenomena ini muncul ketika model AI secara tidak sengaja atau sistematis memperlakukan individu secara berbeda karena ras, gender, usia, atau atribut sensitif lainnya. Hal ini sering kali berasal dari data pelatihan yang bias atau desain sistem yang diskriminatif.
Summary
Diskriminasi algoritmik terjadi ketika sistem otomatis menghasilkan hasil yang tidak adil atau bias yang merugikan kelompok tertentu berdasarkan karakteristik yang dilindungi.
Key Concepts
- Keadilan
- Atribut yang Dilindungi
- Dampak Berbeda
Use Cases
- Audit algoritma perekrutan untuk bias gender
- Menilai sistem persetujuan pinjaman untuk disparitas rasial
- Memastikan akurasi pengenalan wajah di berbagai warna kulit