Алгоритмическая предвзятость
term_id: algorithmic_bias
Category: ethics_safety
Definition
Предвзятость в алгоритмах обычно originates из нерепрезентативных обучающих данных, субъективных проектных решений или петель обратной связи, которые усиливают существующие социальные предрассудки. Она проявляется в виде искаженных прогнозов или решений.
Summary
Алгоритмическая предвзятость относится к систематическим и повторяющимся ошибкам в компьютерной системе, которые приводят к несправедливым результатам, таким как привилегирование одной произвольной группы над другими.
Key Concepts
- Репрезентация данных
- Систематическая ошибка
- Стратегии смягчения
Use Cases
- Корректировка ранжирования результатов поиска
- Балансировка наборов данных для медицинской диагностики
- Диверсификация обучающих наборов для распознавания изображений