Forudsigende læring

term_id: predictive_learning

Category: training_techniques

Definition

Forudsigende læring indebærer træning af neurale netværk til at inferere uobserverede datapunkter fra observerede inputs uden eksplicitte menneskelige etiketter. Ved at løse opgaver som næste-token-forudsigelse i sprog eller maskeringsmodeller opnår modellen en dyb forståelse af datastrukturen.

Summary

En selvovervåget tilgang, hvor modeller lærer repræsentationer ved at forudsige manglende dele af inputdata.

Key Concepts

  • Selvovervågning
  • Maskeret modellering
  • Repræsentationslæring
  • Uetiketterede data

Use Cases

  • For-træning af store sprogmodeller
  • Opgaver inden for billede-inpainting
  • Detektion af anomalier i tidsserier