Model Çıkarma
term_id: model_extraction
Category: ethics_safety
Definition
Model çıkarma, hedef makine öğrenimi modelinin API’sini sorgulayarak iç yapısını, ağırlıklarını veya karar sınırlarını çıkarmayı içerir. Saldırganlar bu sorgulamaları, modeli çoğaltan bir taklit model oluşturmak için kullanır…
Summary
Bir saldırganın modeli sorgulayarak parametrelerini yeniden oluşturması veya bir taklit kopya oluşturması saldırısı.
Key Concepts
- Taklit Modelleme
- API Sorgulama
- Fikri Mülkiyet Hırsızlığı
- Düşmanlık Saldırısı
Use Cases
- Ticari yapay zeka API’lerinin güvenlik denetimi
- Tescilli algoritmaların kopyalanmasından korunma
- Çıkarmaya karşı savunma mekanizmaları araştırma