Envenenamiento de Datos
term_id: data_poisoning
Category: ethics_safety
Definition
Esta técnica adversaria tiene como objetivo comprometer la integridad de los modelos de aprendizaje automático alterando los datos de entrenamiento. Al introducir errores sutiles o ejemplos sesgados, los atacantes pueden hacer que el modelo
Summary
El envenenamiento de datos es un ataque de seguridad en el que actores maliciosos inyectan datos corruptos o engañosos en un conjunto de entrenamiento para degradar el rendimiento del modelo.
Key Concepts
- Ataque Adversarial
- Integridad del Modelo
- Seguridad de los Datos de Entrenamiento
- Ataques de Puerta Trasera
Use Cases
- Pruebas de seguridad de los flujos de trabajo de ML
- Comprensión de vulnerabilidades en conjuntos de datos abiertos
- Desarrollo de mecanismos de defensa robustos