Adversarielt angrep
term_id: adversarial_attack
Category: ethics_safety
Definition
Adversarielle angrep utnytter sårbarhetene i nevrale nettverk ved å introdusere subtil støy i inndata, som bilder eller tekst, som fører til betydelige feil i modellutdataene. Disse angrepene fremhever…
Summary
Et adversarielt angrep er en teknikk der små, ofte usynlige forstyrrelser legges til inndata for å lure maskinlæringsmodeller til å gjøre feil prediksjoner.
Key Concepts
- Forstyrrelse
- Modellrobusthet
- Hvitt-boks vs. svart-boks
- Unngåelsesangrep
Use Cases
- Testing av modell sikkerhet
- Generering av adversarielle eksempler for trening
- Analyse av sårbarheter i datamaskinsynssystemer