Pembelajaran Mandiri-Tersupervisi
term_id: self_supervised_learning
Category: training_techniques
Definition
Pembelajaran mandiri-tersupervisi adalah teknik di mana algoritma membuat sinyal pengawasan dari data yang tidak berlabel itu sendiri, biasanya dengan memprediksi bagian input yang hilang. Hal ini menjembatani kesenjangan antara pembelajaran tanpa pengawasan dan tersupervisi.
Summary
Metode pelatihan di mana model menghasilkan labelnya sendiri dari data input untuk mempelajari representasi.
Key Concepts
- Pra-pelatihan
- Pemodelan Bahasa Masker
- Pembelajaran Kontrastif
- Pembelajaran Representasi
Use Cases
- Melatih model bahasa besar
- Pembelajaran representasi gambar
- Sistem pengenalan suara
Code Example
| |