كسر السجن
term_id: jailbreak
Category: ethics_safety
Definition
يتضمن ‘كسر السجن’ صياغة مدخلات أو أوامر محددة تخدع نموذج الذكاء الاصطناعي لتجاهل إرشادات الأمان المدمجة فيه وتوليد محتوى محظور، مثل خطاب الكراهية أو التعليمات الخطيرة.
Summary
تقنية هندسة الأوامر مصممة للتجاوز عبر مرشحات الأمان والقيود الأخلاقية لنموذج الذكاء الاصطناعي.
Key Concepts
- حقن الأمر
- مرشحات الأمان
- اختبار الفريق الأحمر
- المواءمة
Use Cases
- اختبارات البحث الأمني
- توليد محتوى ضار بنية خبيثة
- تقييم متانة النموذج