Détection de toxicité
term_id: toxicity_detection
Category: application_paradigms
Definition
La détection de toxicité utilise des techniques de traitement automatique du langage naturel pour analyser les entrées textuelles et attribuer un score de probabilité indiquant la probabilité de contenu nuisible. Ces systèmes utilisent généralement une supervision…
Summary
Le processus automatisé d’identification et de classification du langage nuisible ou abusif dans le texte à l’aide de modèles d’apprentissage automatique.
Key Concepts
- Classification de texte
- Apprentissage automatique
- Modération
- TALN (Traitement Automatique du Langage Naturel)
Use Cases
- Modération automatisée du contenu
- Filtrage de chat en temps réel
- Surveillance de la réputation de marque