Detecção de Toxicidade
term_id: toxicity_detection
Category: application_paradigms
Definition
A detecção de toxicidade emprega técnicas de processamento de linguagem natural para analisar entradas de texto e atribuir uma pontuação de probabilidade indicando a probabilidade de conteúdo prejudicial. Esses sistemas normalmente usam superv
Summary
O processo automatizado de identificar e classificar linguagem prejudicial ou abusiva em textos usando modelos de aprendizado de máquina.
Key Concepts
- Classificação de Texto
- Aprendizado de Máquina
- Moderação
- NLP (Processamento de Linguagem Natural)
Use Cases
- Moderação automatizada de conteúdo
- Filtragem de bate-papo em tempo real
- Monitoramento da reputação da marca