Adversariellt angrepp
term_id: adversarial_attack
Category: ethics_safety
Definition
Adversariella angrepp utnyttjar sårbarheterna i neurala nätverk genom att introducera subtilt brus i indata, såsom bilder eller text, vilket leder till betydande fel i modellens utdata. Dessa angrepp framhäver…
Summary
Ett adversariellt angrepp är en teknik där små, ofta osynliga störningar läggs till i inmatningsdata för att vilseleda maskininlärningsmodeller att göra felaktiga förutsägelser.
Key Concepts
- Störning
- Modellrobusthet
- Vit-låda kontra svart-låda
- Undvikandeangrepp
Use Cases
- Testning av modellens säkerhet
- Generering av adversariella exempel för träning
- Analys av sårbarheter i dataseende system