Empoisonnement des données
term_id: data_poisoning
Category: ethics_safety
Definition
Cette technique adverse vise à compromettre l’intégrité des modèles d’apprentissage automatique en altérant les données d’apprentissage. En introduisant des erreurs subtiles ou des exemples biaisés, les attaquants peuvent amener le modèle à
Summary
L’empoisonnement des données est une attaque de sécurité au cours de laquelle des acteurs malveillants injectent des données corrompues ou trompeuses dans un ensemble d’apprentissage pour dégrader les performances du modèle.
Key Concepts
- Attaque adversaire
- Intégrité du modèle
- Sécurité des données d’apprentissage
- Attaques par porte dérobée
Use Cases
- Tests de sécurité des pipelines d’apprentissage automatique
- Compréhension des vulnérabilités des ensembles de données ouverts
- Développement de mécanismes de défense robustes