Vontade extrapolada coerente
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
A Vontade Extrapolada Coerente (CEV, do inglês Coherent Extrapolated Volition) é um conceito introduzido por Eliezer Yudkowsky no contexto de segurança e alinhamento da IA. Ele sugere que uma IA avançada não deve simplesmente obedecer aos comandos humanos atuais, mas sim inferir e agir de acordo com o que a humanidade desejará após refletir idealmente sobre seus próprios valores e desejos.
Summary
Uma meta proposta para a inteligência artificial onde o sistema age de acordo com os desejos refinados da humanidade após um raciocínio idealizado.
Key Concepts
- Alinhamento de IA
- Aprendizado de Valores
- Preferências Humanas Idealizadas
- Função de Utilidade
Use Cases
- Estrutura teórica para a segurança da AGI
- Diretrizes éticas para sistemas superinteligentes
- Discussões filosóficas sobre moralidade das máquinas