Škodlivý obsah
term_id: harmful_content
Category: ethics_safety
Definition
Škodlivý obsah označuje digitální média nebo texty, která mohou způsobit fyzické, psychologické nebo sociální poškození. V oblasti bezpečnosti AI je detekce a filtrování takového obsahu klíčové pro prevenci generování škodlivých výstupů modely.
Summary
Informace, které představují riziko pro jednotlivce nebo společnost, včetně nenávistných projevů, násilí a protizákonných činů.
Key Concepts
- Moderace obsahu
- Bezpečnost AI
- Detekce toxicita
- Etické směrnice
Use Cases
- Filtrování na sociálních sítích
- Automatizované systémy revize obsahu
- Výcvik modelu pro zarovnání s etickými normami