Volition extrapolée cohérente
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
La Volition Extrapolée Cohérente (CEV) est un concept introduit par Eliezer Yudkowsky dans le contexte de la sécurité et de l’alignement de l’IA. Il suggère qu’une IA avancée ne devrait pas simplement obéir aux commandes humaines actuelles
Summary
Un objectif proposé pour l’intelligence artificielle où le système agit selon les désirs affinés de l’humanité après un raisonnement idéalisé.
Key Concepts
- Alignement de l’IA
- Apprentissage des valeurs
- Préférences humaines idéalisées
- Fonction d’utilité
Use Cases
- Cadre théorique pour la sécurité de l’AGI
- Lignes directrices éthiques pour les systèmes superintelligents
- Discussions philosophiques sur la moralité des machines