Ekstraksi Model
term_id: model_extraction
Category: ethics_safety
Definition
Ekstraksi model melibatkan pengkuerian API model pembelajaran mesin target untuk menyimpulkan struktur internal, bobot, atau batas keputusannya. Penyerang menggunakan kueri ini untuk membangun model tiruan yang meniru perilaku model asli, yang dapat digunakan untuk mencuri kekayaan intelektual atau menghindari mekanisme keamanan.
Summary
Serangan di mana penyerang melakukan kueri pada model untuk merekonstruksi parameternya atau membuat salinan tiruan.
Key Concepts
- Pemodelan Tiruan
- Pengkuerian API
- Pencurian Kekayaan Intelektual
- Serangan Adversarial
Use Cases
- Audit keamanan API AI komersial
- Melindungi algoritma rahasia dari peniruan
- Meneliti mekanisme pertahanan terhadap ekstraksi