Отравление данных
term_id: data_poisoning
Category: ethics_safety
Definition
Эта состязательная техника направлена на компрометацию целостности моделей машинного обучения путем изменения обучающих данных. Внося тонкие ошибки или смещенные примеры, атакующие могут заставить модель
Summary
Отравление данных — это кибератака, при которой злоумышленники внедряют поврежденные или вводящие в заблуждение данные в обучающий набор для снижения качества работы модели.
Key Concepts
- Состязательная атака
- Целостность модели
- Безопасность обучающих данных
- Атаки с бэкдором
Use Cases
- Тестирование безопасности конвейеров машинного обучения
- Изучение уязвимостей открытых наборов данных
- Разработка надежных механизмов защиты