Prediktiv læring
term_id: predictive_learning
Category: training_techniques
Definition
Prediktiv læring innebærer å trene nevrale nettverk til å slutte seg til ikke-observerte datapunkter fra observerte inndata uten eksplisitte menneskelige etiketter. Ved å løse oppgaver som neste-token-forutsigelse i språk eller maskeringsmodeller, kan modellen lære robuste funksjonsrepresentasjoner.
Summary
En selvtilsynsmetode der modeller lærer representasjoner ved å forutse manglende deler av inndata.
Key Concepts
- Selvtilsyn
- Maskebasert modellering
- Representasjonslæring
- Umerkede data
Use Cases
- Foruttrening av store språkmodeller
- Oppgaver med bilde-inpainting
- Avviksdetektering i tidsserier