Odporność
term_id: robustness
Category: ethics_safety
Definition
W kontekście bezpieczeństwa i etyki AI, odporność odnosi się do odporności modelu na nieoczekiwane wejścia lub złośliwe manipulacje. Odporny system nadal działa poprawnie nawet wtedy, gdy dane wejściowe zawierają szum,
Summary
Zdolność modelu sztucznej inteligencji do utrzymania wydajności i stabilności w obliczu zaśmieconych danych, ataków adversarialnych lub zmian rozkładu danych.
Key Concepts
- Ataki adversarialne
- Zmiana rozkładu (Distribution shift)
- Tolerancja na szum
- Niezawodność modelu
Use Cases
- Percepcja pojazdów autonomicznych
- Systemy wykrywania oszustw
- Modele diagnozy medycznej