Kohærent ekstrapolert vilje
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Kohærent ekstrapolert vilje (CEV) er et konsept introdusert av Eliezer Yudkowsky i sammenheng med AI-sikkerhet og justering. Det foreslår at en avansert AI ikke bare skal adlyde nåværende menneskelige kommandoer, men heller ekstrapolere hva menneskene ville ønsket seg hvis de hadde tenkt dypere og bedre.
Summary
Et foreslått mål for kunstig intelligens der systemet handler i samsvar med menneskehetens raffinerte ønsker etter idealisert resonnement.
Key Concepts
- AI-justering
- Verdilæring
- Idealiserte menneskelige preferanser
- Nyttighetsfunksjon
Use Cases
- Teoretisk rammeverk for AGI-sikkerhet
- Etiske retningslinjer for superintelligente systemer
- Filosofiske diskusjoner om maskinmoral