Στοίχιση Τεχνητής Νοημοσύνης
term_id: ai_alignment
Category: ethics_safety
Definition
Η στοίχιση ΤΝ αντιμετωπίζει την πρόκληση της δημιουργίας ανθεκτικών τεχνητών νοημοσυνών που κάνουν ακριβώς αυτό που εννοούν οι χρήστες, αντί για αυτό που λένε κυριολεκτικά. Περιλαμβάνει τεχνικές μεθόδους για να διασφαλιστεί ότι…
Summary
Το πεδίο μελέτης που εστιάζει στην εξασφάλιση ότι τα συστήματα ΤΝ συμπεριφέρονται σύμφωνα με τις ανθρώπινες αξίες και προθέσεις.
Key Concepts
- μάθηση αξιών
- ωφέλιμη συμπεριφορά
- πρόβλημα ελέγχου
- εξηγησιμότητα
Use Cases
- Έρευνα ασφαλείας σε μεγάλα γλωσσικά μοντέλα
- Ανάπτυξη συναρτήσεων ανταμοιβής για RLHF
- Υλοποίηση ηθικών κατευθυντήριων γραμμών