Coherente geëxtrapoleerde wil
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Coherente Geëxtrapoleerde Wil (CEV) is een concept dat door Eliezer Yudkowsky is geïntroduceerd in de context van AI-veiligheid en -alignement. Het stelt dat een geavanceerde AI niet simpelweg huidige menselijke commando’s moet opvolgen, maar de collectieve, idealiseerde voorkeuren van de mensheid moet extrapoleren en coherente acties moet ondernemen die hiermee in overeenstemming zijn.
Summary
Een voorgesteld doel voor kunstmatige intelligentie waarbij het systeem handelt volgens de verfijnde wensen van de mensheid na idealiserend redeneren.
Key Concepts
- AI-alignement
- Waardenleren
- Idealiseerde menselijke voorkeuren
- Nuttenfunctie
Use Cases
- Theoretisch kader voor AGI-veiligheid
- Ethische richtlijnen voor superintelligente systemen
- Filosofische discussies over machine-moraliteit