הרעלת נתונים (Data Poisoning)
term_id: data_poisoning
Category: ethics_safety
Definition
טכניקה התקפית זו שואפת לפגוע בשלמותם של מודלי למידת מכונה על ידי שינוי נתוני האימון. על ידי הכנסת שגיאות עדינות או דוגמות מוטות, התוקפים יכולים לגרום למודל ל-
Summary
הרעלת נתונים היא מתקפת אבטחה שבה גורמים זדוניים מזריקים נתונים מעוותים או מטעים לערכת האימון כדי לפגוע בביצועי המודל.
Key Concepts
- התקפה התקפית (Adversarial Attack)
- שלמות המודל
- אבטחת נתוני אימון
- התקפות דלת אחורית (Backdoor Attacks)
Use Cases
- בדיקות אבטחה של זרימות עבודה של למידת מכונה
- הבנת פגיעויות בערכי נתונים פתוחים
- פיתוח מנגנוני הגנה חסינים