Ataque de Puerta Trasera
term_id: backdoor_attack
Category: ethics_safety
Definition
Un ataque de puerta trasera implica envenenar los datos de entrenamiento de un modelo de aprendizaje automático con patrones específicos, conocidos como disparadores. Mientras el modelo funciona normalmente con datos limpios, activa comportamientos incorrectos
Summary
Una amenaza de seguridad donde actores maliciosos incrustan disparadores ocultos en modelos de IA durante el entrenamiento para causar clasificaciones erróneas específicas.
Key Concepts
- Envenenamiento de Datos
- Integridad del Modelo
- Aprendizaje Automático Adversario
- Patrones de Disparador
Use Cases
- Pruebas de seguridad de pipelines de ML
- Desarrollo de filtros defensivos
- Auditoría de modelos de terceros