Algoritmik Ayrımcılık
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Bu olgu, yapay zeka modellerinin ırk, cinsiyet, yaş veya diğer hassas nitelikler nedeniyle bireylere sistematik veya yanlışlıkla farklı davranmasından kaynaklanır. Genellikle önyargılı eğitim verilerinden veya mevcut toplumsal önyargıları büyüten geri bildirim döngülerinden doğar.
Summary
Algoritmik ayrımcılık, otomatik sistemlerin korunan özelliklere dayalı olarak belirli grupları dezavantajlı duruma getiren haksız veya önyargılı sonuçlar ürettiği durumdur.
Key Concepts
- Adillik
- Korunan Nitelikler
- Farklı Etki (Disparate Impact)
Use Cases
- İşe alım algoritmalarının cinsiyet önyargısı açısından denetlenmesi
- Kredi onay sistemlerinin ırksal eşitsizlikler açısından değerlendirilmesi
- Farklı ten tonlarında yüz tanıma doğruluğunun sağlanması