Extração de Modelo
term_id: model_extraction
Category: ethics_safety
Definition
A extração de modelos envolve consultar a API de um modelo de aprendizado de máquina alvo para inferir sua estrutura interna, pesos ou limites de decisão. Os atacantes usam essas consultas para construir um modelo substituto que replica o comportamento do original.
Summary
Um ataque no qual um adversário consulta um modelo para reconstruir seus parâmetros ou criar uma cópia substituta.
Key Concepts
- Modelagem Substituta
- Consulta via API
- Roubo de Propriedade Intelectual
- Ataque Adversarial
Use Cases
- Auditoria de segurança de APIs de IA comerciais
- Proteção de algoritmos proprietários contra clonagem
- Pesquisa de mecanismos de defesa contra extração