Согласованное экстраполированное волеизъявление
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Согласованное экстраполированное волеизъявление (CEV) — это концепция, введенная Элиезером Юдковским в контексте безопасности и согласования ИИ. Она предполагает, что продвинутый ИИ должен не просто подчиняться текущим командам людей, а стремиться к реализации их истинных, осознанных и рационализированных желаний, которые возникли бы, если бы люди обладали большей информацией, мыслительными способностями и были бы более теми, кем они хотели бы быть.
Summary
Предлагаемая цель для искусственного интеллекта, при которой система действует в соответствии с уточненными желаниями человечества после идеализированного рассуждения.
Key Concepts
- Согласование ИИ
- Обучение ценностям
- Идеализированные предпочтения человека
- Функция полезности
Use Cases
- Теоретическая основа безопасности AGI
- Этические руководства для сверхинтеллектуальных систем
- Философские дискуссии о машинной морали