Schadelijke inhoud
term_id: harmful_content
Category: ethics_safety
Definition
Schadelijke inhoud verwijst naar digitale media of tekst die fysieke, psychologische of sociale schade kan veroorzaken. Bij AI-veiligheid is het detecteren en filteren van dergelijke inhoud cruciaal om te voorkomen dat modellen schadelijke output genereren.
Summary
Informatie die risico’s vormt voor individuen of de samenleving, waaronder haatzaaiende taal, geweld en illegale handelingen.
Key Concepts
- Inhoudsmoderatie
- AI-veiligheid
- Detectie van toxiciteit
- Ethische richtlijnen
Use Cases
- Filteren op sociale mediaplatforms
- Geautomatiseerde systeem voor inhoudscontrole
- Training voor AI-modelalignement