Tutarlı İnterpole Edilmiş İrade
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Tutarlı İnterpole Edilmiş İrade (CEV), Eliezer Yudkowsky tarafından yapay zeka güvenliği ve hizalama bağlamında tanıtılan bir kavramdır. Gelişmiş bir yapay zekanın, mevcut insan emirlerini basitçe yerine getirmek yerine, insanların idealize edilmiş akıl yürütme sürecinden geçmiş niyetlerini ve değerlerini anlaması ve bunlara uygun davranması gerektiğini öne sürer.
Summary
Yapay zekanın, idealize edilmiş akıl yürütme sonucunda insanlığın rafineleşmiş isteklerine göre hareket etmesini öngören bir yapay zeka hedefi önerisi.
Key Concepts
- Yapay Zeka Hizalaması
- Değer Öğrenimi
- İdealize Edilmiş İnsan Tercihleri
- Fayda Fonksiyonu
Use Cases
- AGI güvenliği için teorik çerçeve
- Süper zeki sistemler için etik yönergeler
- Makine ahlakı üzerine felsefi tartışmalar