Apprendimento predittivo
term_id: predictive_learning
Category: training_techniques
Definition
L’apprendimento predittivo prevede l’addestramento di reti neurali per inferire punti dati non osservati dagli input osservati, senza etichette umane esplicite. Risolvendo compiti come la previsione del token successivo nel linguaggio o il mascheramento nelle immagini, i modelli imparano strutture sottostanti e dipendenze semantiche dai dati stessi.
Summary
Un approccio auto-supervisionato in cui i modelli apprendono rappresentazioni prevedendo le parti mancanti dei dati di input.
Key Concepts
- Auto-supervisione
- Modellazione mascherata
- Apprendimento delle rappresentazioni
- Dati non etichettati
Use Cases
- Pre-addestramento di grandi modelli linguistici
- Compiti di inpainting delle immagini
- Rilevamento di anomalie nelle serie temporali