Koherent ekstrapoleret vilje
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Koherent Ekstrapoleret Vilje (CEV) er et koncept introduceret af Eliezer Yudkowsky i sammenhæng med AI-sikkerhed og alignment. Det foreslår, at en avanceret AI ikke blot skal adlyde nuværende menneskelige kommandoer, men i stedet udlede og opfylde menneskehedens dybere, konsistente værdier og ønsker gennem idealiseret logisk推理.
Summary
Et foreslået mål for kunstig intelligens, hvor systemet handler i overensstemmelse med menneskehedens raffinerede ønsker efter idealiseret ræsonnement.
Key Concepts
- AI-alignment
- Værdilæring
- Idealiserede menneskelige præferencer
- Nyttighedsfunktion
Use Cases
- Teoretisk rammeværk for AGI-sikkerhed
- Etiske retningslinjer for superintelligente systemer
- Filosofiske diskussioner om maskinmoral