Apprendimento Auto-Supervisionato
term_id: self_supervised_learning
Category: training_techniques
Definition
L’apprendimento auto-supervisionato è una tecnica in cui l’algoritmo crea segnali di supervisione dai dati non etichettati stessi, tipicamente prevedendo parti mancanti dell’input. Colma il divario tra
Summary
Un metodo di addestramento in cui il modello genera le proprie etichette dai dati di input per apprendere rappresentazioni.
Key Concepts
- Pre-addestramento
- Masked Language Modeling
- Apprendimento Contrastivo
- Apprendimento delle Rappresentazioni
Use Cases
- Addestramento di grandi modelli linguistici
- Apprendimento delle rappresentazioni per immagini
- Sistemi di riconoscimento vocale
Code Example
| |