Ý chí ngoại suy nhất quán
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Ý chí ngoại suy nhất quán (CEV) là một khái niệm do Eliezer Yudkowsky giới thiệu trong bối cảnh an toàn và căn chỉnh AI. Nó gợi ý rằng một AI tiên tiến không nên đơn giản tuân theo các mệnh lệnh hiện tại của con người mà phải suy luận và ngoại suy những mong muốn thực sự, tốt đẹp nhất của chúng ta dưới điều kiện lý tưởng.
Summary
Một mục tiêu đề xuất cho trí tuệ nhân tạo, trong đó hệ thống hành động dựa trên những mong muốn đã được tinh chỉnh của con người sau khi suy luận lý tưởng hóa.
Key Concepts
- Căn chỉnh AI
- Học giá trị
- Thiên hướng lý tưởng hóa của con người
- Hàm tiện ích
Use Cases
- Khung lý thuyết cho an toàn AGI
- Hướng dẫn đạo đức cho các hệ thống siêu trí tuệ
- Thảo luận triết học về đạo đức máy móc