רצון חופשי אקסטרפולטיבי עקבי
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
רצון חופשי אקסטרפולטיבי עקבי (CEV) הוא מושג שהציג אליזר יודקובסקי בהקשר של בטיחות והתאמה של בינה מלאכותית. הרעיון מציע שמערכת בינה מלאכותית מתקדמת לא צריכה פשוט לצעתי את הפקודות האנושיות הנוכחיות, אלא להבין ולהמשיך את הרצונות העמוקים שלנו לאחר סינון אידיאלי של היגיון ומידע.
Summary
יעד מוצע לבינה מלאכותית שבו המערכת פועלת בהתאם לרצונות המטוהרים של האנושות לאחר מחשבה אידיאלית.
Key Concepts
- התאמת בינה מלאכותית
- למידת ערכים
- העדפות אנושיות אידיאליות
- פונקציית תועלת
Use Cases
- מסגרת תיאורטית לבטיחות AGI
- הנחיות אתיות למערכות על-אינטליגנטיות
- דיונים פילוסופיים על מוסר מכונה