Алгоритмическая дискриминация
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Это явление возникает, когда модели ИИ непреднамеренно или систематически относятся к людям по-разному из-за расы, пола, возраста или других чувствительных атрибутов. Оно часто проистекает из предвзятых обучающих данных или смещенных проектных решений.
Summary
Алгоритмическая дискриминация возникает, когда автоматизированные системы производят несправедливые или предвзятые результаты, ставящие в невыгодное положение определенные группы на основе защищаемых характеристик.
Key Concepts
- Справедливость
- Защищаемые атрибуты
- Разностное воздействие
Use Cases
- Аудит алгоритмов найма на предмет гендерной предвзятости
- Оценка систем одобрения кредитов на наличие расового неравенства
- Обеспечение точности распознавания лиц независимо от тона кожи