Serangan Backdoor
term_id: backdoor_attack
Category: ethics_safety
Definition
Serangan backdoor melibatkan pencemaran data pelatihan model pembelajaran mesin dengan pola spesifik, yang dikenal sebagai pemicu. Meskipun model berfungsi normal pada data bersih, ia mengaktifkan perilaku salah be…
Summary
Ancaman keamanan di mana aktor jahat menanam pemicu tersembunyi dalam model AI selama pelatihan untuk menyebabkan kesalahan klasifikasi tertentu.
Key Concepts
- Pencemaran Data
- Integritas Model
- Pembelajaran Mesin Adversarial
- Pola Pemicu
Use Cases
- Pengujian keamanan pipa ML
- Mengembangkan filter pertahanan
- Audit model pihak ketiga