Datagiftiging
term_id: data_poisoning
Category: ethics_safety
Definition
Denne fiendtlige teknikken har som mål å kompromittere integriteten til maskinlæringsmodeller ved å endre treningsdataene. Ved å introdusere subtile feil eller skjevfordelte eksempler, kan angripere få modellen til å
Summary
Datagiftiging er et sikkerhetsangrep der ondsinnete aktører injiserer korrupt eller villedende data i et treningssett for å forringe modellens ytelse.
Key Concepts
- Fiendtlig angrep
- Modellintegritet
- Sikkerhet for treningsdata
- Bakdørsangrep
Use Cases
- Sikkerhetstesting av ML-pipelines
- Forståing av sårbarheter i åpne datasett
- Utvikling av robuste forsvarsmekanismer