المحتوى الضار
term_id: harmful_content
Category: ethics_safety
Definition
يشير المحتوى الضار إلى الوسائط الرقمية أو النصوص التي يمكن أن تسبب ضرراً جسدياً أو نفسياً أو اجتماعياً. وفي مجال سلامة الذكاء الاصطناعي، يُعد اكتشاف وتصفية هذا المحتوى أمراً بالغ الأهمية لمنع النماذج من تولي
Summary
معلومات تشكل مخاطر على الأفراد أو المجتمع، بما في ذلك خطاب الكراهية والعنف والأفعال غير القانونية.
Key Concepts
- تدقيق المحتوى
- سلامة الذكاء الاصطناعي
- كشف السمية
- المبادئ التوجيهية الأخلاقية
Use Cases
- تصفية منصات التواصل الاجتماعي
- أنظمة مراجعة المحتوى الآلية
- تدريب محاذاة نماذج الذكاء الاصطناعي