Serangan Adversarial
term_id: adversarial_attack
Category: ethics_safety
Definition
Serangan adversarial memanfaatkan kerentanan jaringan saraf dengan memperkenalkan noise halus pada input, seperti gambar atau teks, yang menyebabkan kesalahan signifikan dalam output model. Serangan ini menyoroti…
Summary
Serangan adversarial adalah teknik di mana gangguan kecil, seringkali tak terlihat, ditambahkan ke data input untuk menipu model pembelajaran mesin agar membuat prediksi yang salah.
Key Concepts
- Gangguan (Perturbation)
- Ketahanan Model (Model Robustness)
- Kotak Putih vs Kotak Hitam (White-box vs Black-box)
- Serangan Penghindaran (Evasion Attacks)
Use Cases
- Menguji keamanan model
- Menghasilkan contoh adversarial untuk pelatihan
- Menganalisis kerentanan pada sistem penglihatan komputer