Diferenciální soukromí
term_id: differential_privacy
Category: ethics_safety
Definition
Diferenciální soukromí poskytuje silné záruky soukromí přidáním kalibrovaného statistického šumu do výsledků dotazů nebo parametrů modelu. Kvantifikuje maximální množství úniku informací o jakémkoli jednotlivci.
Summary
Přísný matematický rámec, který zajišťuje, že zahrnutí nebo vynechání dat jednotlivce nemá významný vliv na výsledek analýzy.
Key Concepts
- Rozpočet soukromí (Epsilon)
- Kalibrace šumu
- Věta o kompozici
- Důkaz s nulovým prostorem
Use Cases
- Trénování modelů na citlivých lékařských záznamech
- Zveřejňování agregovaných statistik bez odhalování individuálních identit
- Bezpečný výměna dat mezi nedůvěryhodnými stranami