Toxicidade
term_id: toxicity
Category: ethics_safety
Definition
A toxicidade na IA refere-se à geração ou propagação de conteúdo que é desrespeitoso, que provavelmente faria alguém abandonar uma discussão ou que se concentra em uma identidade específica. Abrange um espectro desde mi
Summary
A presença de conteúdo prejudicial, ofensivo ou abusivo em textos gerados por IA, incluindo discurso de ódio, assédio e ameaças.
Key Concepts
- Discurso de Ódio
- Assédio
- Moderação de Conteúdo
- IA Ética
Use Cases
- Segurança em plataformas de redes sociais
- Filtragem de bots de atendimento ao cliente
- Aplicação de diretrizes comunitárias