Stereotip
term_id: stereotype
Category: ethics_safety
Definition
Dalam AI, stereotip muncul ketika model mempelajari dan memperkuat bias sosial yang ada dalam data pelatihan. Hal ini dapat menyebabkan hasil diskriminatif, seperti mengaitkan profesi tertentu dengan gender atau ras tertentu, yang memperburuk ketidaksetaraan sosial dan mengurangi kepercayaan publik terhadap sistem AI.
Summary
Keyakinan umum dan sering kali disederhanakan tentang kelompok tertentu yang tercermin dalam output AI.
Key Concepts
- Bias Algoritmik
- Keadilan
- Bias Sosial
- Diskriminasi
Use Cases
- Audit algoritma perekrutan untuk bias gender
- Mengoreksi bias rasial dalam pengenalan wajah
- Mengembangkan model pemrosesan bahasa alami yang lebih adil