Συνταγματική ΤΝ
term_id: constitutional_ai
Category: application_paradigms
Definition
Η Συνταγματική ΤΝ είναι ένα πλαίσιο ευθυγράμμισης μεγάλων γλωσσικών μοντέλων με ανθρώπινες αξίες χωρίς να βασίζεται αποκλειστικά σε ανθρώπινα σχόλια για κάθε βήμα. Περιλαμβάνει τη δημιουργία μιας «συνταγματικής» βάσης υψηλού επιπέδου αρχών που το μοντέλο χρησιμοποιεί για να αξιολογεί και να διορθώνει τις απαντήσεις του.
Summary
Μια μέθοδος εκπαίδευσης μοντέλων ΤΝ ώστε να ακολουθούν οδηγίες ασφάλειας μέσω αυτοκριτικής βασισμένης σε ένα προκαθορισμένο σύνολο αρχών.
Key Concepts
- Αυτοδιόρθωση
- Ευθυγράμμιση
- Εκπαίδευση Βασισμένη σε Αρχές
- Εναλλακτική του RLHF
Use Cases
- Μείωση επιβλαβών εξόδων σε μεγάλα γλωσσικά μοντέλα
- Βελτίωση της χρησιμότητας και ειλικρίνειας του μοντέλου
- Κλιμάκωση της εκπαίδευσης ασφάλειας με αποδοτικότητα