Konten Berbahaya
term_id: harmful_content
Category: ethics_safety
Definition
Konten berbahaya merujuk pada media digital atau teks yang dapat menyebabkan kerusakan fisik, psikologis, atau sosial. Dalam keamanan AI, mendeteksi dan memfilter konten semacam ini sangat krusial untuk mencegah model menghasilkan respons yang merugikan.
Summary
Informasi yang menimbulkan risiko bagi individu atau masyarakat, termasuk ujaran kebencian, kekerasan, dan tindakan ilegal.
Key Concepts
- Moderasi Konten
- Keamanan AI
- Deteksi Toksisitas
- Pedoman Etika
Use Cases
- Penyaringan di platform media sosial
- Sistem tinjau konten otomatis
- Pelatihan penyesuaian model AI