Koherentti ekstrapoloitu tahto
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Koherentti ekstrapoloitu tahto (CEV) on käsite, jonka Eliezer Yudkowsky esitteli tekoälyn turvallisuuden ja kohdistamisen kontekstissa. Se ehdottaa, että edistyneen tekoälyn ei tulisi vain totella nykyisiä ihmisten käskyjä, vaan sen tulisi ymmärtää ja toteuttaa ihmisten todelliset arvot ja toiveet, jos ne olisi jalostettu rationaalisuuden ja tiedon valossa.
Summary
Ehdotettu tekoälyn tavoite, jossa järjestelmä toimii ihmiskunnan hienostuneiden toiveiden mukaisesti ideaalisen päättelyn jälkeen.
Key Concepts
- Teoälyn kohdistaminen
- Arvojen oppiminen
- Idealisoituneet ihmistoiveet
- Hyötyfunktio
Use Cases
- Yleisen tekoälyn (AGI) turvallisuuden teoreettinen viitekehys
- Eettiset ohjeistukset superälykkäille järjestelmille
- Filosofiset keskustelut koneen moraalista