התקפה אדוורסריאלית
term_id: adversarial_attack
Category: ethics_safety
Definition
התקפות אדוורסריאליות מנצלות את החולשות של רשתות נוירונים על ידי הכנסת רעש עדין לקלטים, כגון תמונות או טקסט, מה שגורם לשגיאות משמעותיות בפלט המודל. התקפות אלו מדגישות את הרגישות של מודלים אלו לשינויים מינוריים.
Summary
התקפה אדוורסריאלית היא טכניקה שבה מוסיפים הפרעות קטנות, לרוב בלתי נראות, לנתוני הקלט כדי להטעות מודלים של למידת מכונה ולגרום להם לבצע חיזויים שגויים.
Key Concepts
- הפרעה (Perturbation)
- חוסן המודל (Model Robustness)
- קופסה לבנה מול קופסה שחורה (White-box vs Black-box)
- התקפות הימנעות (Evasion Attacks)
Use Cases
- בדיקת אבטחת מודלים
- יצירת דוגמאות אדוורסריאליות לאימון
- ניתוח פגיעות במערכות ראייה ממוחשבת