일관된 외삽적 의지
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
일관된 외삽적 의지(CEV)는 엘리에저 유타코프스키가 인공지능 안전 및 정렬 맥락에서 도입한 개념입니다. 이는 고급 인공지능이 단순히 현재의 인간 명령을 따르는 것이 아니라
Summary
이상화된 추론을 거친 인류의 정제된 욕구에 따라 시스템이 행동하도록 하는 인공지능의 제안된 목표입니다.
Key Concepts
- AI 정렬
- 가치 학습
- 이상화된 인간 선호도
- 효용 함수
Use Cases
- AGI 안전을 위한 이론적 프레임워크
- 초지능 시스템을 위한 윤리 가이드라인
- 기계 도덕성에 대한 철학적 논의