למידת מכונה אדוורסריאלית
term_id: adversarial_machine_learning
Category: training_techniques
Definition
תחום זה כולל הן טכניקות התקפה לשבירת מודלים והן אסטרטגיות הגנה להקשחתם. הוא כולל אימון מודלים על דוגמאות אדוורסריאליות כדי לשפר את העמידות שלהם, תהליך המכונה אימון אדוורסריאלי.
Summary
למידת מכונה אדוורסריאלית היא תחום החוקר כיצד להפוך מודלים של למידת מכונה לחסינים בפני קלטים זדוניים המיועדים להטעות אותם.
Key Concepts
- אימון אדוורסריאלי (Adversarial Training)
- חוסן (Robustness)
- פערים בגנרליזציה (Generalization Gap)
- אבטחה (Security)
Use Cases
- שיפור עמידות המודל
- ביקורת אבטחה של מערכות בינה מלאכותית
- פיתוח מנגנוני הגנה