Keinginan Ekstrapolasi Koheren
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Keinginan Ekstrapolasi Koheren (CEV) adalah konsep yang diperkenalkan oleh Eliezer Yudkowsky dalam konteks keselamatan dan keselarasan AI. Konsep ini menyatakan bahwa AI canggih seharusnya tidak sekadar mematuhi perintah manusia saat ini, melainkan mengekstrapolasi keinginan manusia yang paling mendasar dan bernilai setelah proses penalaran yang ideal dan koheren.
Summary
Sebuah tujuan yang diusulkan untuk kecerdasan buatan di mana sistem bertindak sesuai dengan keinginan manusia yang telah disempurnakan setelah penalaran yang ideal.
Key Concepts
- Keselarasan AI
- Pembelajaran Nilai
- Preferensi Manusia Ideal
- Fungsi Utilitas
Use Cases
- Kerangka kerja teoretis untuk keselamatan AGI
- Pedoman etis untuk sistem supercanggih
- Diskusi filosofis tentang moralitas mesin