Атакa на основе состязательных примеров
term_id: adversarial_attack
Category: ethics_safety
Definition
Состязательные атаки используют уязвимости нейронных сетей, внося тонкий шум во входные данные, такие как изображения или текст, что приводит к значительным ошибкам в результатах работы модели. Эти атаки подчеркивают…
Summary
Состязательная атака — это техника, при которой к входным данным добавляются небольшие, часто незаметные возмущения, чтобы обмануть модели машинного обучения и заставить их делать неверные прогнозы.
Key Concepts
- Возмущение
- Устойчивость модели
- Атаки типа «белый ящик» против «черный ящик»
- Атаки уклонения
Use Cases
- Тестирование безопасности моделей
- Генерация состязательных примеров для обучения
- Анализ уязвимостей в системах компьютерного зрения