알고리즘 편향

term_id: algorithmic_bias

Category: ethics_safety

Definition

알고리즘의 편향은 일반적으로 대표성이 부족한 학습 데이터, 주관적인 설계 선택, 또는 기존 사회적 편견을 증폭시키는 피드백 루프에서 비롯됩니다. 이는 치우친 예측으로 나타납니다.

Summary

알고리즘 편향은 컴퓨터 시스템에서 반복적이고 체계적인 오류가 발생하여 한 임의의 집단을 다른 집단보다 우선시하는 등 부당한 결과를 초래하는 것을 의미합니다.

Key Concepts

데이터 표현
체계적 오류
완화 전략

Use Cases

검색 결과 순위 정정
의료 진단 데이터셋 균형 맞추기
이미지 인식 학습 세트 다양화