Αυτοεποπτευόμενη Μάθηση
term_id: self_supervised_learning
Category: training_techniques
Definition
Η αυτοεποπτευόμενη μάθηση είναι μια τεχνική όπου ο αλγόριθμος δημιουργεί εποπτικά σήματα από τα ίδια τα μη ετικετοποιημένα δεδομένα, συνήθως προβλέποντας τα λείποντα μέρη της εισόδου. Γεφυρώνει το χάσμα μεταξύ της μη εποπτευόμενης και της εποπτευόμενης μάθησης.
Summary
Μια μέθοδος εκπαίδευσης όπου το μοντέλο δημιουργεί τις δικές του ετικέτες από τα δεδομένα εισόδου για να μάθει αναπαραστάσεις.
Key Concepts
- Προ-εκπαίδευση
- Μοντελοποίηση Γλώσσας Masked
- Αντιπαραθετική Μάθηση
- Μάθηση Αναπαραστάσεων
Use Cases
- Εκπαίδευση μεγάλων γλωσσικών μοντέλων
- Μάθηση αναπαραστάσεων εικόνας
- Συστήματα αναγνώρισης ομιλίας
Code Example
| |