Toxiciteit
term_id: toxicity
Category: ethics_safety
Definition
Toxiciteit in AI verwijst naar de generatie of verspreiding van inhoud die respectloos is, waarschijnlijk iemand zal doen stoppen met deelnemen aan een discussie, of gericht op een specifieke identiteit. Het omvat een spectrum van lichte beledigingen tot ernstige haatzaaiende taal en geweld.
Summary
De aanwezigheid van schadelijke, beledigende of misbruikmakende inhoud in door AI gegenereerde tekst, waaronder haatzaaiende taal, intimidatie en bedreigingen.
Key Concepts
- Haatzaaiende taal
- Intimidatie
- Inhoudsmoderatie
- Ethische AI
Use Cases
- Veiligheid op socialemediaplatforms
- Filteren in klantenservicebots
- Handhaving van communityrichtlijnen