Μάθηση με Ενίσχυση από Ανθρώπινη Ανατροφοδότηση

term_id: rlhf

Category: training_techniques

Definition

Η Μάθηση με Ενίσχυση από Ανθρώπινη Ανατροφοδότηση (RLHF) είναι μια μέθοδος που χρησιμοποιείται για τη λεπτομερή ρύθμιση (fine-tuning) μεγάλων γλωσσικών μοντέλων ώστε οι εξόδους τους να ευθυγραμμίζονται καλύτερα με τις ανθρώπινες αξίες και προσδοκίες. Συνήθως περιλαμβάνει τρία βήματα

Summary

Η RLHF είναι μια τεχνική που ευθυγραμμίζει τα μοντέλα ΤΝ με τις ανθρώπινες προτιμήσεις, χρησιμοποιώντας ανθρώπινη ανατροφοδότηση για την εκπαίδευση ενός μοντέλου ανταμοιβής για μάθηση με ενίσχυση.

Key Concepts

  • Δεδομένα Προτιμήσεων
  • Μοντέλο Ανταμοιβής
  • Ευθυγράμμιση
  • PPO (Γειτονική Βελτιστοποίηση Πολιτικής)

Use Cases

  • Βελτίωση chatbots
  • Διαχείριση περιεχομένου
  • Βελτίωση της τήρησης οδηγιών