Toxizität
term_id: toxicity
Category: ethics_safety
Definition
Toxizität in der KI bezieht sich auf die Generierung oder Verbreitung von Inhalten, die respektlos sind, wahrscheinlich dazu führen, dass jemand eine Diskussion verlässt, oder sich auf eine bestimmte Identität konzentrieren. Sie umfasst ein Spektrum von subtilen Vorurteilen bis hin zu offener Feindseligkeit und wird oft durch Metriken gemessen, die die Wahrscheinlichkeit einschätzen, dass ein Text als schädlich wahrgenommen wird.
Summary
Das Vorhandensein schädlicher, beleidigender oder missbräuchlicher Inhalte in KI-generiertem Text, einschließlich Hassrede, Belästigung und Drohungen.
Key Concepts
- Hassrede
- Belästigung
- Content Moderation (Inhaltsmoderation)
- Ethische KI
Use Cases
- Sicherheit auf Social-Media-Plattformen
- Filterung in Kundenservice-Bots
- Durchsetzung von Community-Richtlinien