Состязательное машинное обучение
term_id: adversarial_machine_learning
Category: training_techniques
Definition
Эта область охватывает как наступательные техники для взлома моделей, так и оборонительные стратегии для их укрепления. Она включает обучение моделей на состязательных примерах для повышения их устойчивости, процесс, известный как…
Summary
Состязательное машинное обучение — это область, изучающая способы обеспечения устойчивости моделей машинного обучения к вредоносным входам, предназначенным для их обмана.
Key Concepts
- Состязательное обучение
- Устойчивость
- Разрыв в обобщающей способности
- Безопасность
Use Cases
- Повышение устойчивости моделей
- Аудит безопасности ИИ-систем
- Разработка механизмов защиты