알고리즘 차별
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
이 현상은 AI 모델이 인종, 성별, 연령 또는 기타 민감한 속성 때문에 개인을 우연히 또는 체계적으로 다르게 대우할 때 발생합니다. 이는 종종 편향된 학습 데이터나
Summary
알고리즘 차별은 자동화 시스템이 보호되는 특성에 기반하여 특정 집단에 불리하게 작용하는 부당하거나 편향된 결과를 생성하는 현상을 말합니다.
Key Concepts
- 공정성
- 보호 대상 속성
- 차별적 영향
Use Cases
- 성별 편향을 위한 채용 알고리즘 감사
- 인종적 격차를 위한 대출 승인 시스템 평가
- 모든 피부색에 대한 얼굴 인식 정확도 보장