Învățare Auto-Supervizată

term_id: self_supervised_learning

Category: training_techniques

Definition

Învățarea auto-supervizată este o tehnică prin care algoritmul creează semnale de supraveghere din datele netichetate însuși, de obicei prin predicția părților lipsă ale intrării. Aceasta face punerea între învățarea

Summary

O metodă de antrenament în care modelul generează propriile etichete din datele de intrare pentru a învăța reprezentări.

Key Concepts

  • Pre-antrenare
  • Modelarea Limbajului Mascate
  • Învățare Contrastivă
  • Învățarea Reprezentărilor

Use Cases

  • Antrenarea modelelor lingvistice mari
  • Învățarea reprezentărilor pentru imagini
  • Sisteme de recunoaștere vocală

Code Example

1
null