Toxicidad
term_id: toxicity
Category: ethics_safety
Definition
La toxicidad en la IA se refiere a la generación o propagación de contenido que es irrespetuoso, que probablemente haga que alguien abandone una discusión o que se centre en una identidad específica. Abarca un espectro que va desde la rudeza leve hasta el abuso grave y el discurso de odio.
Summary
La presencia de contenido dañino, ofensivo o abusivo en el texto generado por IA, incluyendo discurso de odio, acoso y amenazas.
Key Concepts
- Discurso de Odio
- Acoso
- Moderación de Contenido
- IA Ética
Use Cases
- Seguridad en plataformas de redes sociales
- Filtrado en bots de atención al cliente
- Aplicación de normas comunitarias