Извлечение модели (Model Extraction)
term_id: model_extraction
Category: ethics_safety
Definition
Извлечение модели включает отправку запросов к API целевой модели машинного обучения для вывода ее внутренней структуры, весов или границ принятия решений. Злоумышленники используют эти запросы для построения суррогатной модели, которая ведет себя аналогично оригиналу.
Summary
Атака, при которой злоумышленник запрашивает модель для восстановления ее параметров или создания копии.
Key Concepts
- Суррогатное моделирование
- Запросы к API
- Кража интеллектуальной собственности
- Вредоносная атака (Adversarial Attack)
Use Cases
- Аудит безопасности коммерческих API искусственного интеллекта
- Защита проприетарных алгоритмов от клонирования
- Исследование механизмов защиты от извлечения моделей