Koherens extrapolált akarat
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
A Koherens Extrapolált Akarat (CEV) egy Eliezer Yudkowsky által bevezetett fogalom az MI-biztonság és -igazítás kontextusában. Azt javasolja, hogy egy fejlett MI nem egyszerűen a jelenlegi emberi parancsokat hajtja végre, hanem az emberi értékek és preferenciák koherens, idealizált kiterjesztését követi, figyelembe véve a logikus következményeket és a hosszú távú jólétet.
Summary
Az mesterséges intelligencia számára javasolt cél, amelyben a rendszer az emberiség idealizált gondolkodás után finomított vágyai szerint cselekszik.
Key Concepts
- MI igazítás
- Értéktanulás
- Idealizált emberi preferenciák
- Hasznossági függvény
Use Cases
- Általános intelligenciájú MI (AGI) biztonsági keretrendszer
- Szuperintelligens rendszerek etikai irányelvei
- Filozófiai viták a gépi morálról