Kohärentes extrapoliertes Wollen
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Kohärentes extrapoliertes Wollen (CEV) ist ein Konzept, das von Eliezer Yudkowsky im Kontext der KI-Sicherheit und -Ausrichtung eingeführt wurde. Es schlägt vor, dass eine fortschrittliche KI nicht einfach aktuellen menschlichen Befehlen folgen sollte, sondern die idealisierten Wünsche der Menschheit nach angemessener Reflexion und Extrapolation erfüllen muss.
Summary
Ein vorgeschlagenes Ziel für künstliche Intelligenz, bei dem das System gemäß den verfeinerten Wünschen der Menschheit nach idealisierter reasoning handelt.
Key Concepts
- KI-Ausrichtung
- Wertelernen
- Idealisierte menschliche Präferenzen
- Nutzenfunktion
Use Cases
- Theoretischer Rahmen für die Sicherheit von AGI
- Ethische Leitlinien für superintelligente Systeme
- Philosophische Diskussionen über Maschinenmoral