Wykrywanie toksyczności
term_id: toxicity_detection
Category: application_paradigms
Definition
Wykrywanie toksyczności wykorzystuje techniki przetwarzania języka naturalnego do analizy danych wejściowych i przypisania wyniku prawdopodobieństwa wskazującego na potencjalnie szkodliwe treści. Systemy te zazwyczaj używają nadzorowanego…
Summary
Zautomatyzowany proces identyfikacji i klasyfikowania szkodliwego lub nękającego języka w tekście za pomocą modeli uczenia maszynowego.
Key Concepts
- Klasyfikacja tekstu
- Uczenie maszynowe
- Moderacja
- NLP
Use Cases
- Zautomatyzowana moderacja treści
- Filtrowanie czatu w czasie rzeczywistym
- Monitorowanie reputacji marki