Bezpieczeństwo
term_id: security
Category: basic_concepts
Definition
Bezpieczeństwo AI obejmuje środki mające na celu ochronę modeli uczenia maszynowego, potoków danych oraz infrastruktury wdrożeniowej przed takimi zagrożeniami, jak ataki adversarialne, trucie danych (data poisoning) oraz próby przejęcia kontroli nad modelem.
Summary
Praktyka ochrony systemów sztucznej inteligencji przed nieautoryzowanym dostępem, nadużyciami i atakami złośliwego oprogramowania.
Key Concepts
- Odporność adversarialna
- Prywatność danych
- Integralność modelu
- Kontrola dostępu
Use Cases
- Ochrona modeli wykrywających oszustwa finansowe
- Zabezpieczanie algorytmów diagnostycznych w opiece zdrowotnej
- Bronienie systemów percepcji pojazdów autonomicznych