Data Poisoning
term_id: data_poisoning
Category: ethics_safety
Definition
Tato adversariální technika má za cíl ohrozit integritu strojových modelů změnou trénovacích dat. Zavedením jemných chyb nebo zkreslených příkladů mohou útočníci způsobit, že se model
Summary
Data poisoning je bezpečnostní útok, při kterém zlí aktéři vkládají poškozená nebo zavádějící data do trénovací sady, aby zhoršili výkon modelu.
Key Concepts
- Adversariální útok
- Integrita modelu
- Bezpečnost trénovacích dat
- Útoky typu backdoor
Use Cases
- Bezpečnostní testování ML pipeline
- Porozumění zranitelnostem ve veřejných datech
- Vývoj robustních obranných mechanismů