Turvallisuus
term_id: safety
Category: ethics_safety
Definition
Tekoälyn turvallisuus on monitieteinen alue, jonka tavoitteena on estää edistyneen tekoälyn aiheuttamat haitalliset lopputulokset. Se kattaa tekniset haasteet kuten arvojen yhdenmukaistamisen, tulkitettavuuden ja robustisuuden sekä yhteiskunnalliset näkökohdat.
Summary
Tiede ja käytäntö, jossa varmistetaan, etteivät tekoälijärjestelmät aiheuta fyysistä, digitaalista tai yhteiskunnallista vahinkoa.
Key Concepts
- Arvojen yhdenmukaistus
- Tulkitettavuus
- Ohjausteoria
- Riskinarviointi
Use Cases
- Autonomisten ajoneuvojen hätäpysäytysmekanismien kehittäminen
- Algoritmien tarkastus vinoumien varalta
- Säädöspuitteiden luominen tekoälyn käyttöönotolle