Biztonság
term_id: safety
Category: ethics_safety
Definition
Az AI-biztonság egy többdiszciplináris terület, amely a fejlett mesterséges intelligenciából származó kedvezőtlen kimenetelek megelőzésére fókuszál. Magában foglalja az igazolást, az értelmezhetőséget és a robusztusságot érintő technikai kihívásokat, valamint a társadalmi hatások vizsgálatát.
Summary
Annak tanulmánya és gyakorlata, hogy az AI rendszerek ne okozzanak fizikai, digitális vagy társadalmi kárt.
Key Concepts
- Értékigazítás (Value Alignment)
- Érthetőség / Interpretálhatóság
- Vezérléselmélet
- Kockázatelemzés
Use Cases
- Vészleállítók fejlesztése autonóm járművekhez
- Algoritmusok auditálása torzítások szempontjából
- Szabályozási keretrendszerek létrehozása az AI bevezetéséhez