Data Poisoning
term_id: data_poisoning
Category: ethics_safety
Definition
Questa tecnica avversaria mira a compromettere l’integrità dei modelli di apprendimento automatico alterando i dati di addestramento. Introducendo errori sottili o esempi distorti, gli attaccanti possono far sì che il modello
Summary
L’avvelenamento dei dati è un attacco di sicurezza in cui attori malintenzionati iniettano dati corrotti o fuorvianti in un insieme di addestramento per degradare le prestazioni del modello.
Key Concepts
- Attacco Adversariale
- Integrità del Modello
- Sicurezza dei Dati di Addestramento
- Attacchi Backdoor
Use Cases
- Test di sicurezza delle pipeline ML
- Comprensione delle vulnerabilità nei dataset aperti
- Sviluppo di meccanismi di difesa robusti