Kalıp Yargı
term_id: stereotype
Category: ethics_safety
Definition
Yapay zekada kalıp yargılar, modeller eğitim verisinde mevcut olan toplumsal önyargıları öğrenip büyüttüğünde ortaya çıkar. Bunlar, belirli meslekleri belirli cinsiyetlerle ilişkilendirme gibi ayrımcı sonuçlara yol açabilir…
Summary
Yapay zeka çıktılarında yansıyan, belirli bir insan grubu hakkında genelleştirilmiş ve genellikle aşırı basitleştirilmiş inanç.
Key Concepts
- Algoritmik Önyargı
- Eşitlik (Adillik)
- Sosyal Önyargı
- Ayrımcılık
Use Cases
- İşe alım algoritmalarının cinsiyet önyargısı açısından denetlenmesi
- Yüz tanıma sistemlerindeki ırksal önyargıların düzeltilmesi
- Daha adil doğal dil işleme modelleri geliştirme