Káros tartalom
term_id: harmful_content
Category: ethics_safety
Definition
A káros tartalom olyan digitális médiát vagy szöveget jelent, amely fizikai, pszichológiai vagy társadalmi kárt okozhat. Az AI-biztonság szempontjából kritikus fontosságú ilyen tartalmak észlelése és szűrése, hogy megakadályozzuk a modellek által generált károkat.
Summary
Olyan információ, amely kockázatot jelent az egyének vagy a társadalom számára, beleértve a gyűlöletbeszédet, az erőszakot és a törvénybe ütköző cselekményeket.
Key Concepts
- Tartalommoderáció
- AI-biztonság
- Toxicitás észlelése
- Etikai irányelvek
Use Cases
- Közösségi média platformok szűrése
- Automatikus tartalomfelülvizsgálati rendszerek
- AI-modellek igazítási képzése