الإرادة الممتدة المتماسكة
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
الإرادة الممتدة المتماسكة (CEV) هي مفهوم قدمه إلييزر يودكوفسكي في سياق سلامة الذكاء الاصطناعي ومواءمته. يقترح أن الذكاء الاصطناعي المتقدم لا ينبغي له مجرد طاعة الأوامر البشرية الحالية ببساطة، بل يجب عليه استنتاج وتوقع ما تريده البشرية حقاً إذا كانت تمتلك معلومات كاملة وقدرة على التفكير المثالي.
Summary
هدف مقترح للذكاء الاصطناعي حيث يتصرف النظام وفقاً للرغبات البشرية المنقحة بعد التفكير المثالي.
Key Concepts
- محاذاة الذكاء الاصطناعي
- تعلم القيم
- التفضيلات البشرية المثالية
- دالة المنفعة
Use Cases
- إطار نظري لسلامة الذكاء الاصطناعي العام
- إرشادات أخلاقية للأنظمة فائقة الذكاء
- مناقشات فلسفية حول أخلاقيات الآلة