Skadeligt Indhold
term_id: harmful_content
Category: ethics_safety
Definition
Skadeligt indhold refererer til digitale medier eller tekst, der kan forårsage fysisk, psykologisk eller social skade. Inden for AI-sikkerhed er det afgørende at opdage og filtrere sådant indhold for at forhindre modeller i at generere
Summary
Information, der udgør en risiko for individer eller samfundet, herunder hadefulde ytringer, vold og ulovlige handlinger.
Key Concepts
- Indholdsmoderation
- AI-sikkerhed
- Detektion af toksicitet
- Etiske retningslinjer
Use Cases
- Filtrering på sociale medier-platforme
- Systemer til automatisk indholdsrevision
- Træning af AI-modeller til overensstemmelse med etiske standarder