هجوم عدائي
term_id: adversarial_attack
Category: ethics_safety
Definition
تستغل الهجمات العدائية نقاط الضعف في الشبكات العصبية من خلال إدخال ضوضاء خفية على المدخلات، مثل الصور أو النصوص، مما يسبب أخطاء كبيرة في مخرجات النموذج. تستفيد هذه الهجمات من هشاشة النماذج…
Summary
الهجوم العدائي هو تقنية تُضاف فيها تشويشات صغيرة، وغالباً ما تكون غير مرئية، إلى بيانات الإدخال لإيهام نماذج التعلم الآلي بإجراء تنبؤات خاطئة.
Key Concepts
- التشويش
- متانة النموذج
- الصندوق الأبيض مقابل الصندوق الأسود
- هجمات التهرب
Use Cases
- اختبار أمان النموذج
- إنشاء أمثلة عدائية للتدريب
- تحليل نقاط الضعف في أنظمة الرؤية الحاسوبية