التمييز الخوارزمي
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
ينشأ هذا الظاهرة عندما تعامل نماذج الذكاء الاصطناعي الأفراد بشكل مختلف، عن طريق الخطأ أو منهجياً، بسبب العرق أو الجنس أو العمر أو سمات حساسة أخرى. وغالباً ما ينبع من بيانات تدريب متحيزة.
Summary
يحدث التمييز الخوارزمي عندما تنتج الأنظمة الآلية نتائج غير عادلة أو متحيزة تضعف مجموعات معينة بناءً على خصائص محمية.
Key Concepts
- الإنصاف
- السمات المحمية
- التأثير المختلف
Use Cases
- تدقيق خوارزميات التوظيف للكشف عن التحيز الجندري
- تقييم أنظمة الموافقة على القروض للكشف عن الفوارق العرقية
- ضمان دقة التعرف على الوجوه عبر درجات البشرة المختلفة