Haitallinen sisältö
term_id: harmful_content
Category: ethics_safety
Definition
Haitallisella sisällöllä tarkoitetaan digitaalista mediaa tai tekstiä, joka voi aiheuttaa fyysistä, psyykkistä tai sosiaalista vahinkoa. Tekoälyn turvallisuudessa tällaisen sisällön havaitseminen ja suodattaminen on kriittistä, jotta mallit eivät tuottaisi haitallista sisältöä.
Summary
Tietoa, joka aiheuttaa riskejä yksilöille tai yhteiskunnalle, mukaan lukien vihapuhe, väkivalta ja laittomat teot.
Key Concepts
- Sisällön moderointi
- Tekoälyn turvallisuus
- Myrkyllisyyden tunnistus
- Eettiset ohjeistukset
Use Cases
- Sosiaalisen median alustojen suodatus
- Automaattiset sisällön tarkistusjärjestelmät
- Tekoälymallien eettinen sovitus (alignment)