Prediktív tanulás

term_id: predictive_learning

Category: training_techniques

Definition

A prediktív tanulás során neurális hálózatokat képeznek arra, hogy az észlelt bemenetekből következtessenek meg nem figyelt adatpontokra explicit emberi címkék nélkül. A következő token előrejelzése nyelvi feladatokban vagy maszkolt modellezés képfeldolgozásban keresztül oldva meg ezeket a feladatokat, a modell képes általánosabb és robusztusabb belső reprezentációkat megtanulni.

Summary

Egy önfelügyelt megközelítés, ahol a modellek hiányzó bemeneti adatok előrejelzésével tanulnak reprezentációkat.

Key Concepts

  • Önfelügyelet
  • Maszkolt modellezés
  • Reprezentáció tanulás
  • Címkézetlen adat

Use Cases

  • Nagy nyelvi modellek előképzése
  • Képi inpainting feladatok
  • Anomáliadetektálás idősortokban