Deteksjon av toxisitet
term_id: toxicity_detection
Category: application_paradigms
Definition
Toxisitetsdeteksjon bruker teknikker for naturlig språkbehandling til å analysere tekstinndata og tildele en sannsynlighetsscore som indikerer sjansen for skadelig innhold. Disse systemene bruker vanligvis overvåket…
Summary
Den automatiserte prosessen med å identifisere og klassifisere skadelig eller misbrukende språk i tekst ved hjelp av maskinlæringsmodeller.
Key Concepts
- Tekstklassifisering
- Maskinlæring
- Moderasjon
- NLP
Use Cases
- Automatisert innholdsmoderasjon
- Sanntidsfiltrering av chat
- Overvåking av merkevarens omdømme