Dataforgiftning
term_id: data_poisoning
Category: ethics_safety
Definition
Denne adversarielle teknik sigter mod at kompromittere integriteten af maskinlæringsmodeller ved at ændre træningsdataene. Ved at introducere subtile fejl eller bias-prøver kan angribere få modellen til at
Summary
Dataforgiftning er et sikkerhedsangreb, hvor ondskabsfulde aktører injicerer korrupte eller vildledende data i et træningsdataset for at forringe modellens ydeevne.
Key Concepts
- Adversarielt angreb
- Modellintegritet
- Sikkerhed af træningsdata
- Bagdørsangreb
Use Cases
- Sikkerhedstest af ML-pipelines
- Forståelse af sårbarheder i åbne datasæt
- Udvikling af robuste forsvarsmekanismer