Învenenarea Datelor
term_id: data_poisoning
Category: ethics_safety
Definition
Această tehnică adversarială își propune să compromită integritatea modelelor de învățare automată prin modificarea datelor de antrenament. Prin introducerea unor erori subtile sau a exemplelor părtinitoare, atacatorii pot determina modelul să
Summary
Învenenarea datelor este un atac de securitate în care actorii malițiosi injectează date corupte sau înșelătoare într-un set de antrenament pentru a degrada performanța modelului.
Key Concepts
- Atac Adversarial
- Integritatea Modelului
- Securitatea Datelor de Antrenament
- Atacuri Backdoor
Use Cases
- Testarea de securitate a pipeline-urilor ML
- Înțelegerea vulnerabilităților în seturile de date deschise
- Dezvoltarea mecanismelor robuste de apărare