Дифференциальная приватность
term_id: differential_privacy
Category: ethics_safety
Definition
Дифференциальная приватность обеспечивает надежную защиту конфиденциальности за счет добавления калиброванного статистического шума к результатам запросов или параметрам модели. Она количественно оценивает максимальный объем утечки информации о любом отдельном субъекте.
Summary
Строгая математическая модель, гарантирующая, что наличие или отсутствие данных любого отдельного человека не оказывает существенного влияния на результат анализа.
Key Concepts
- Бюджет конфиденциальности (Эпсилон)
- Калибровка шума
- Теорема композиции
- Доказательство с нулевым разглашением
Use Cases
- Обучение моделей на основе чувствительных медицинских записей
- Публикация агрегированной статистики без раскрытия личных данных
- Безопасный обмен данными между недоверенными сторонами