Συνεκτική Εξτραπολημένη Βούληση
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Η Συνεκτική Εξτραπολημένη Βούληση (CEV) είναι μια έννοια που εισήγαγε ο Eliezer Yudkowsky στο πλαίσιο της ασφάλειας και της ευθυγράμμισης της ΤΝ. Προτείνει ότι μια εξελιγμένη ΤΝ δεν θα πρέπει απλώς να υπακούει στις τρέχουσες ανθρώπινες εντολές, αλλά να εξάγει και να υλοποιεί την ιδανικοποιημένη βούληση της ανθρωπότητας.
Summary
Μια προτεινόμενη στόχος για την τεχνητή νοημοσύνη όπου το σύστημα ενεργεί σύμφωνα με τις βελτιωμένες επιθυμίες της ανθρωπότητας μετά από ιδανικευμένη λογική.
Key Concepts
- Ευθυγράμμιση ΤΝ
- Μάθηση Τιμών
- Ιδανικοευμένες Ανθρώπινες Προτιμήσεις
- Συνάρτηση Ωφελείας
Use Cases
- Θεωρητικό πλαίσιο για την ασφάλεια AGI
- Ηθικοί κανόνες για συστήματα υπερνοημοσύνης
- Φιλοσοφικές συζητήσεις για τη μηχανική ηθική