Poisoning Data
term_id: data_poisoning
Category: ethics_safety
Definition
Teknik adversarial ini bertujuan untuk merusak integritas model pembelajaran mesin dengan mengubah data pelatihan. Dengan memperkenalkan kesalahan halus atau contoh yang bias, penyerang dapat menyebabkan model
Summary
Poisoning data adalah serangan keamanan di mana aktor jahat menyuntikkan data yang rusak atau menyesatkan ke dalam set pelatihan untuk menurunkan kinerja model.
Key Concepts
- Serangan Adversarial
- Integritas Model
- Keamanan Data Pelatihan
- Serangan Backdoor
Use Cases
- Pengujian keamanan pipeline ML
- Memahami kerentanan dalam dataset terbuka
- Mengembangkan mekanisme pertahanan yang kuat