ירידה במדרון סטוכסטית פרופרית דיפרנציאלית
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
DP-SGD הוא וריאנט של ירידה במדרון סטוכסטית (SGD) המיועד להגן על פרטיות נתוני האימון. הוא פועל על ידי גזירת התרומה של הנגזרת של כל דגימה כדי להגביל את הרגישות, ולאחר מכן הוספת G
Summary
אלגוריתם אופטימיזציה המתקן את SGD הסטנדרטי על ידי גזירת נגזרות והוספת רעש כדי להבטיח שהמודל המאומן עומד באילוצי הפרטיות הדיפרנציאלית.
Key Concepts
- גזירת נגזרות (Gradient Clipping)
- הזרקת רעש גאוסי
- דגימת משנה של מדגמים (Sample Subsampling)
- חשבונאות פרטיות
Use Cases
- אימון רשתות נוירונים עמוקות על נתוני משתמשים פרטיים
- מודלינינג חיזוי ברפואה
- זיהוי הונאות פיננסיות עם נתונים מוסדרים