Datap vergiftiging
term_id: data_poisoning
Category: ethics_safety
Definition
Deze adversariële techniek beoogt de integriteit van machine learning-modellen te ondermijnen door de trainingsgegevens te wijzigen. Door subtiele fouten of bevooroordeelde voorbeelden in te voeren, kunnen aanvallers ervoor zorgen dat het model
Summary
Datap vergiftiging is een beveiligingsaanval waarbij kwaadwillenden corrupte of misleidende gegevens in een trainingsset injecteren om de modelprestaties te verlagen.
Key Concepts
- Adversariële Aanval
- Modelintegriteit
- Beveiliging van Trainingsgegevens
- Backdoor-aanvallen
Use Cases
- Beveiligingstesten van ML-pijplijnen
- Begrip van kwetsbaarheden in open datasets
- Ontwikkeling van robuuste verdedigingsmechanismen