Datagiftning
term_id: data_poisoning
Category: ethics_safety
Definition
Denna adversariella teknik syftar till att kompromettera integriteten hos maskininlärningsmodeller genom att ändra träningsdatan. Genom att introducera subtila fel eller snedvridna exempel kan angripare få modellen att
Summary
Datagiftning är ett säkerhetsangrepp där aktörer med onda avsikter injicerar korrupt eller vilseledande data i en träningsuppsättning för att försämra modellens prestanda.
Key Concepts
- Adversariellt angrepp
- Modellintegritet
- Säkerhet för träningsdata
- Bakdursangrepp
Use Cases
- Säkerhetstestning av ML-pipelines
- Förstå sårbarheter i öppna dataset
- Utveckla robusta försvarsmekanismer