Bezpečnost
term_id: safety
Category: ethics_safety
Definition
Bezpečnost AI (AI Safety) je multidisciplinární obor zaměřený na prevenci nepříznivých výsledků od pokročilé umělé inteligence. Zahrnuje technické výzvy, jako je soulad, interpretovatelnost a robustnost.
Summary
Studium a praxe zajišťující, že systémy AI nezpůsobí fyzické, digitální ani společenské škody.
Key Concepts
- Soulad hodnot
- Interpretovatelnost
- Teorie řízení
- Posuzování rizik
Use Cases
- Vývoj nouzových vypínačů pro autonomní vozidla
- Audit algoritmů na zkreslení
- Tvorba regulačních rámců pro nasazení AI