Διαφορικά Ιδιωτικός Στοχαστικός Καθοδικός Κλίσης
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
Το DP-SGD είναι μια παραλλαγή του Στοχαστικού Καθοδικού Κλίσης σχεδιασμένη για την προστασία της ιδιωτικότητας των δεδομένων εκπαίδευσης. Λειτουργεί κόβοντας τη συνεισφορά της κλίσης κάθε δείγματος για τον περιορισμό της ευαισθησίας και στη συνέχεια προσθέτοντας Gaussian θόρυβο.
Summary
Ένας αλγόριθμος βελτιστοποίησης που τροποποιεί τον τυπικό SGD κόβοντας τις κλίσεις και προσθέτοντας θόρυβο για να εξασφαλίσει ότι το εκπαιδευμένο μοντέλο ικανοποιεί τους περιορισμούς διαφορικής ιδιωτικότητας.
Key Concepts
- Κοπή Κλίσης
- Έγχυση Gaussian Θορύβου
- Υποδειγματισμός Δειγμάτων
- Λογαριασμός Ιδιωτικότητας
Use Cases
- Εκπαίδευση βαθιών νευρωνικών δικτύων σε ιδιωτικά δεδομένα χρηστών
- Πρόβλεψη μοντελοποίηση στην υγεία
- Ανίχνευση απάτης σε χρηματοοικονομικά δεδομένα με ρυθμίσεις