Souvislá extrapolovaná vůle
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Souvislá extrapolovaná vůle (CEV) je koncept zavedený Eliezrem Yudkowským v kontextu bezpečnosti a zarovnávání umělé inteligence. Navrhuje, že pokročilá AI by neměla pouze poslechnout aktuální lidské příkazy, ale měla by extrapolovat a sjednotit naše hluboké hodnoty a přání.
Summary
Navrhovaný cíl umělé inteligence, při kterém systém jedná v souladu s vylepšenými přáními lidstva po idealizovaném uvažování.
Key Concepts
- Zarovnávání AI
- Učení hodnot
- Idealizované lidské preference
- Funkce užitečnosti
Use Cases
- Teoretický rámec pro bezpečnost AGI
- Etické směrnice pro superinteligentní systémy
- Filozofické diskuse o strojové morálce