Aprendizaje automático adversarial
term_id: adversarial_machine_learning
Category: training_techniques
Definition
Este campo abarca tanto técnicas ofensivas para romper modelos como estrategias defensivas para endurecerlos. Implica entrenar modelos con ejemplos adversariales para mejorar su resiliencia, un proceso conocido como entrenamiento adversarial.
Summary
El aprendizaje automático adversarial es un campo que estudia cómo hacer que los modelos de aprendizaje automático sean robustos frente a entradas maliciosas diseñadas para engañarlos.
Key Concepts
- Entrenamiento adversarial
- Robustez
- Brecha de generalización
- Seguridad
Use Cases
- Mejora de la resiliencia de los modelos
- Auditoría de seguridad de sistemas de IA
- Desarrollo de mecanismos de defensa