Koherent extrapolerad vilja
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Koherent Extrapolated Volition (CEV) är ett koncept som introducerades av Eliezer Yudkowsky inom ramen för AI-säkerhet och alignment. Det föreslår att en avancerad AI inte bara ska lyda nuvarande mänskliga kommandon utan istället extrapolera vad människan verkligen vill ha om den tänkte idealiserat.
Summary
Ett föreslaget mål för artificiell intelligens där systemet agerar i enlighet med människans förfinade önskningar efter idealiserad resonemangsföring.
Key Concepts
- AI-alignment
- Värdelärande
- Idealiserade mänskliga preferenser
- Användbarhetsfunktion
Use Cases
- Teoretisk ramverk för AGI-säkerhet
- Etiska riktlinjer för superintelligenta system
- Filosofiska diskussioner om maskinmoral