유해 콘텐츠
term_id: harmful_content
Category: ethics_safety
Definition
유해 콘텐츠란 신체적, 심리적 또는 사회적 손상을 일으킬 수 있는 디지털 미디어나 텍스트를 의미합니다. AI 안전성 분야에서 이러한 콘텐츠를 탐지하고 필터링하는 것은 모델이 유해한 출력을 생성하는 것을 방지하기 위해…
Summary
혐오 표현, 폭력, 불법 행위 등을 포함하여 개인이나 사회에 위험을 초래하는 정보입니다.
Key Concepts
- 콘텐츠 모더레이션
- AI 안전성
- 독성 탐지
- 윤리 가이드라인
Use Cases
- 소셜 미디어 플랫폼 필터링
- 자동 콘텐츠 검토 시스템
- AI 모델 정렬 훈련