Стереотип (Stereotype)
term_id: stereotype
Category: ethics_safety
Definition
В ИИ стереотипы возникают, когда модели учатся и усиливают социальные предубеждения, присутствующие в обучающих данных. Это может приводить к дискриминационным результатам, таким как ассоциирование определенных профессий с конкретным полом или расой.
Summary
Обобщенное и часто упрощенное представление о группе людей, отраженное в выводах ИИ.
Key Concepts
- Алгоритмическая предвзятость
- Справедливость (Fairness)
- Социальная предвзятость
- Дискриминация
Use Cases
- Аудит алгоритмов найма на наличие гендерной предвзятости
- Корректировка расовых предубеждений в распознавании лиц
- Разработка более справедливых моделей обработки естественного языка