تسميم البيانات
term_id: data_poisoning
Category: ethics_safety
Definition
تهدف هذه التقنية المعادية إلى تقويض سلامة نماذج التعلم الآلي من خلال تعديل بيانات التدريب. ومن خلال إدخال أخطاء دقيقة أو أمثلة متحيزة، يمكن للمهاجمين جعل النموذج يتصرف بطريقة غير صحيحة أو تنفيذ أوامر خفية.
Summary
تسميم البيانات هو هجوم أمني يقوم فيه الجهات الخبيثة بحقن بيانات فاسدة أو مضللة في مجموعة التدريب لتدهور أداء النموذج.
Key Concepts
- هجوم عدائي
- سلامة النموذج
- أمان بيانات التدريب
- هجمات الأبواب الخلفية
Use Cases
- اختبار أمان خطوط أنابيب التعلم الآلي
- فهم الثغرات في مجموعات البيانات المفتوحة
- تطوير آليات دفاع قوية