Extracción de Modelos
term_id: model_extraction
Category: ethics_safety
Definition
La extracción de modelos implica consultar la API de un modelo de aprendizaje automático objetivo para inferir su estructura interna, pesos o límites de decisión. Los atacantes utilizan estas consultas para construir un modelo sustituto que replique el comportamiento del original.
Summary
Un ataque en el que un adversario consulta un modelo para reconstruir sus parámetros o crear una copia sustituta.
Key Concepts
- Modelado Sustituto
- Consulta de API
- Robo de Propiedad Intelectual
- Ataque Adversarial
Use Cases
- Auditoría de seguridad de APIs de IA comerciales
- Protección de algoritmos propietarios contra la clonación
- Investigación de mecanismos de defensa contra la extracción