Toxicité
term_id: toxicity
Category: ethics_safety
Definition
La toxicité dans l’IA fait référence à la génération ou à la propagation de contenu irrespectueux, susceptible de faire quitter une discussion à quelqu’un, ou ciblant une identité spécifique. Elle englobe un spectre allant de la…
Summary
La présence de contenu nuisible, offensant ou abusif dans le texte généré par l’IA, y compris les discours de haine, le harcèlement et les menaces.
Key Concepts
- Discours de haine
- Harcèlement
- Modération de contenu
- IA éthique
Use Cases
- Sécurité des plateformes de réseaux sociaux
- Filtrage des bots de service client
- Application des règles de la communauté