önfelügyelt
term_id: self_supervised
Category: training_techniques
Definition
Az önfelügyelt tanulás a gépi tanulás egy alcsoportja, ahol a felügyeleti jelzés automatikusan az adatokból származik, megszüntetve a manuális címkézés szükségességét. A modell általában mesterséges feladatokat old meg (pl. hiányzó részek kitöltése vagy következő token előrejelzése) az adatok szerkezetének kiaknázására, így gazdag reprezentációkat tanul.
Summary
Az önfelügyelt tanulás egy technika, ahol a modell a bemeneti adatokból saját címkéket generál a reprezentációk tanulmányozásához emberi annotáció nélkül.
Key Concepts
- Próbafeladatok
- Maszkolt modellezés
- Címkézetlen adatok
- Reprezentáció tanulás
Use Cases
- BERT betanítása maszkolt nyelvi modellezéssel
- Kontrasztív tanulás képek beágyazásaihoz
- Következő tokenek előrejelzése LLM-ekben