Skadelig innhold
term_id: harmful_content
Category: ethics_safety
Definition
Skadelig innhold refererer til digitale medier eller tekst som kan forårsake fysiske, psykologiske eller sosiale skader. I AI-sikkerhet er det avgjørende å oppdage og filtrere slikt innhold for å forhindre at modeller genererer
Summary
Informasjon som utgjør en risiko for individer eller samfunnet, inkludert hatprat, vold og ulovlige handlinger.
Key Concepts
- Innholdsmoderasjon
- AI-sikkerhet
- Deteksjon av toksisitet
- Etiske retningslinjer
Use Cases
- Filtrering på sosiale medier-plattformer
- Automatiserte systemer for innholdsgranskning
- Trening for justering av AI-modeller