Εποπτευόμενη Βελτιστοποίηση

term_id: supervised_fine_tuning

Category: training_techniques

Definition

Η Εποπτευόμενη Βελτιστοποίηση (SFT) περιλαμβάνει τη λήψη ενός μεγάλου προκαταρκτικά εκπαιδευμένου μοντέλου, όπως ένα γλωσσικό μοντέλο, και τη συνέχιση της εκπαίδευσής του σε ένα μικρότερο, υψηλής ποιότητας σύνολο δεδομένων με ετικέτες για μια συγκεκριμένη εργασία.

Summary

Η διαδικασία περαιτέρω εκπαίδευσης ενός προκαταρτικά εκπαιδευμένου μοντέλου σε ένα συγκεκριμένο σύνολο δεδομένων για να προσαρμοστεί σε μια συγκεκριμένη εργασία ή τομέα.

Key Concepts

  • Προκαταρκτικά Εκπαιδευμένα Μοντέλα
  • Μεταφορά Μάθησης
  • Βελτιστοποίηση Εντολών
  • Προσαρμογή Τομέα

Use Cases

  • Ανάπτυξη προσαρμοσμένων chatbots
  • Συστήματα ερωτοαποκρίσεων ειδικού ιατρικού τομέα
  • Βοηθοί παραγωγής κώδικα

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related