Toxisitet
term_id: toxicity
Category: ethics_safety
Definition
Toxisitet i AI refererer til generering eller spredning av innhold som er respektløst, sannsynligvis vil få noen til å forlate en diskusjon, eller fokuserer på en spesifikk identitet. Det omfatter et spekter fra mild…
Summary
Tilstedeværelsen av skadelig, støtende eller misbrukende innhold i AI-generert tekst, inkludert hatprat, trakassering og trusler.
Key Concepts
- Hatprat
- Trakassering
- Innholdsmoderasjon
- Etisk AI
Use Cases
- Sikkerhet på sosiale medier-plattformer
- Filtrering av kundeservice-botter
- Opprettholdelse av fellesskapsretningslinjer