أمان
term_id: safety
Category: ethics_safety
Definition
أمان الذكاء الاصطناعي هو مجال متعدد التخصصات يركز على منع النتائج الضارة من الذكاء الاصطناعي المتقدم. ويشمل التحديات التقنية مثل المحاذاة، القابلية للتفسير، والقوة، بالإضافة إلى الجوانب الأخلاقية والتنظيمية.
Summary
دراسة وممارسة ضمان عدم تسبب أنظمة الذكاء الاصطناعي في ضرر مادي، رقمي، أو اجتماعي.
Key Concepts
- محاذاة القيم
- القابلية للتفسير
- نظرية التحكم
- تقييم المخاطر
Use Cases
- تطوير مفاتيح إيقاف طوارئ للمركبات ذاتية القيادة
- تدقيق الخوارزميات للكشف عن التحيز
- إطار عمل تنظيمي لنشر الذكاء الاصطناعي