一貫性拡張された意志
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
一貫性拡張された意志（CEV）は、Eliezer YudkowskyによってAIの安全性とアライメントの文脈で導入された概念です。これは、高度なAIが現在の人間の命令を単純に遵守するのではなく、人間が理想化された推論プロセスを通じて形成した本質的で一貫性のある望みを追求すべきであることを示唆しています。
Summary
理想的な推論を経て洗練された人類の欲求に従って行動する人工知能のための提案された目標。
Key Concepts
- AIアライメント
- 価値学習
- 理想化された人間の嗜好
- ユーティリティ関数
Use Cases
- AGI安全性の理論的枠組み
- スーパーインテリジェントシステムのための倫理指針
- 機械的道徳に関する哲学的議論