Trucie danych
term_id: data_poisoning
Category: ethics_safety
Definition
Ta technika adversarialna ma na celu naruszenie integralności modeli uczenia maszynowego poprzez zmianę danych treningowych. Poprzez wprowadzenie subtelnych błędów lub stronniczych przykładów, atakujący mogą spowodować, że model
Summary
Trucie danych to atak bezpieczeństwa, w którym sprawcy wrzucają zepsute lub wprowadzające w błąd dane do zbioru treningowego, aby pogorszyć wydajność modelu.
Key Concepts
- Atak adversarialny
- Integralność modelu
- Bezpieczeństwo danych treningowych
- Ataki typu backdoor
Use Cases
- Testy bezpieczeństwa potoków uczenia maszynowego
- Zrozumienie luk w otwartych zbiorach danych
- Tworzenie odpornych mechanizmów obronnych