Смещение (предвзятость)
term_id: bias
Category: ethics_safety
Definition
В этике ИИ смещение относится к систематической и несправедливой дискриминации в алгоритмических решениях, часто возникающей из-за искаженных обучающих данных или недостатков в проектировании модели. Это может привести к негативным последствиям для
Summary
Систематическая предвзятость в моделях ИИ, приводящая к несправедливым результатам в отношении определенных групп или лиц.
Key Concepts
- Справедливость
- Перекос в наборе данных
- Алгоритмическая дискриминация
- Этичный ИИ
Use Cases
- Аудит алгоритмов найма персонала
- Проверка систем одобрения кредитов
- Анализ точности распознавания лиц среди разных демографических групп