Toksisitas
term_id: toxicity
Category: ethics_safety
Definition
Toksisitas dalam AI merujuk pada generasi atau penyebaran konten yang tidak menghormati, cenderung membuat orang keluar dari diskusi, atau berfokus pada identitas tertentu. Hal ini mencakup spektrum mulai dari kekasaran halus hingga kekerasan verbal eksplisit, dan sering kali menjadi tantangan utama dalam pengembangan etika AI serta keamanan platform digital.
Summary
Adanya konten berbahaya, ofensif, atau menyalahgunakan dalam teks yang dihasilkan AI, termasuk ujaran kebencian, pelecehan, dan ancaman.
Key Concepts
- Ujaran Kebencian
- Pelecehan
- Moderasi Konten
- AI Etis
Use Cases
- Keamanan platform media sosial
- Penyaringan bot layanan pelanggan
- Penegakan pedoman komunitas