Atak adversarialny
term_id: adversarial_attack
Category: ethics_safety
Definition
Ataki adversarialne wykorzystują podatności sieci neuronowych poprzez wprowadzanie subtelnych szumów do danych wejściowych, takich jak obrazy czy tekst, co powoduje istotne błędy w wynikach modelu.
Summary
Atak adversarialny to technika polegająca na dodawaniu małych, często niewidocznych zakłóceń do danych wejściowych w celu zmylenia modeli uczenia maszynowego i spowodowania błędnych przewidywań.
Key Concepts
- Zakłócenie
- Odporność modelu
- Ataki typu white-box vs black-box
- Ataki unikania
Use Cases
- Testowanie bezpieczeństwa modeli
- Generowanie przykładów adversarialnych do treningu
- Analiza podatności systemów komputerowego widzenia