고정관념

term_id: stereotype

Category: ethics_safety

Definition

AI에서 고정관념은 모델이 학습 데이터에 존재하는 사회적 편향을 학습하고 증폭시킬 때 발생합니다. 이는 특정 직업과 성별을 연관시키는 등 차별적인 결과로 이어질 수 있습니다.

Summary

AI 출력물에 반영된 특정 집단에 대한 일반화되고 종종 과도하게 단순화된 신념입니다.

Key Concepts

알고리즘 편향
공정성
사회적 편향
차별

Use Cases

채용 알고리즘의 성별 편향 감사
얼굴 인식의 인종 편향 교정
더 공정한 자연어 처리(NLP) 모델 개발