Datamyrkytys
term_id: data_poisoning
Category: ethics_safety
Definition
Tämä vastustava tekniikka pyrkii vaarantamaan koneoppimismallien eheyden muuttamalla koulutusdataa. Esittämällä hienovaraisia virheitä tai harhoja hyökkääjät voivat aiheuttaa mallin
Summary
Datamyrkytys on tietoturva-isku, jossa haitalliset toimijat ruiskuttavat vaurioitunutta tai harhaanjohtavaa dataa koulutusjoukkoon heikentääkseen mallin suorituskykyä.
Key Concepts
- Vastustava hyökkäys
- Mallin eheys
- Koulutusdatan turvallisuus
- Takahuonehyökkäykset
Use Cases
- Koneoppimisputkien tietoturvatestaus
- Haavoittuvuuksien ymmärtäminen avoimissa datamäärissä
- Robustien puolustusmekanismien kehittäminen