Zehirlilik
term_id: toxicity
Category: ethics_safety
Definition
Yapay zekada zehirlilik, saygısız olan, tartışmadan ayrılma eğilimine neden olabilecek veya belirli bir kimliğe odaklanan içeriklerin üretilmesi veya yayılması anlamına gelir. Hafif hakaretlerden açık tehditlere kadar uzanan bir yelpazeyi kapsar ve etik yapay zeka geliştirme süreçlerinde ele alınması gereken kritik bir faktördür.
Summary
Yapay zeka tarafından üretilen metinlerde nefret söylemi, taciz ve tehditler dahil olmak üzere zararlı, saldırgan veya rahatsız edici içeriğin varlığı.
Key Concepts
- Nefret Söylemi
- Taciz
- İçerik Denetimi
- Etik Yapay Zeka
Use Cases
- Sosyal medya platformu güvenliği
- Müşteri hizmetleri botu filtreleme
- Topluluk kurallarının uygulanması