Μάθηση με Ενίσχυση από Ανθρώπινη Ανατροφοδότηση
term_id: rlhf
Category: training_techniques
Definition
Η Μάθηση με Ενίσχυση από Ανθρώπινη Ανατροφοδότηση (RLHF) είναι μια μέθοδος που χρησιμοποιείται για τη λεπτομερή ρύθμιση (fine-tuning) μεγάλων γλωσσικών μοντέλων ώστε οι εξόδους τους να ευθυγραμμίζονται καλύτερα με τις ανθρώπινες αξίες και προσδοκίες. Συνήθως περιλαμβάνει τρία βήματα
Summary
Η RLHF είναι μια τεχνική που ευθυγραμμίζει τα μοντέλα ΤΝ με τις ανθρώπινες προτιμήσεις, χρησιμοποιώντας ανθρώπινη ανατροφοδότηση για την εκπαίδευση ενός μοντέλου ανταμοιβής για μάθηση με ενίσχυση.
Key Concepts
- Δεδομένα Προτιμήσεων
- Μοντέλο Ανταμοιβής
- Ευθυγράμμιση
- PPO (Γειτονική Βελτιστοποίηση Πολιτικής)
Use Cases
- Βελτίωση chatbots
- Διαχείριση περιεχομένου
- Βελτίωση της τήρησης οδηγιών