Volizione coerente estrapolata
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
La Volizione Coerente Estrapolata (CEV) è un concetto introdotto da Eliezer Yudkowsky nel contesto della sicurezza e dell’allineamento dell’IA. Suggerisce che un’IA avanzata non dovrebbe semplicemente obbedire ai comandi umani attuali
Summary
Un obiettivo proposto per l’intelligenza artificiale in cui il sistema agisce secondo i desideri raffinati dell’umanità dopo un ragionamento idealizzato.
Key Concepts
- Allineamento dell’IA
- Apprendimento dei valori
- Preferenze umane idealizzate
- Funzione di utilità
Use Cases
- Quadro teorico per la sicurezza dell’AGI
- Linee guida etiche per i sistemi superintelligenti
- Discussioni filosofiche sulla moralità delle macchine