독성
term_id: toxicity
Category: ethics_safety
Definition
AI에서의 독성은 경멸적이거나 토론에서 참여자를 이탈하게 만들 가능성이 높거나 특정 정체성에 초점을 맞춘 콘텐츠를 생성하거나 확산하는 것을 의미합니다. 이는 미묘한 수준부터 명백한 공격성까지 다양한 스펙트럼을 포괄합니다.
Summary
AI 생성 텍스트에 포함된 해로운, 불쾌한 또는 모욕적인 콘텐츠의 존재로, 혐오 발언, 괴롭힘 및 위협을 포함합니다.
Key Concepts
- 혐오 발언
- 괴롭힘
- 콘텐츠 검열
- 윤리적 AI
Use Cases
- 소셜 미디어 플랫폼 안전 관리
- 고객 서비스 봇 필터링
- 커뮤니티 가이드라인 준수