Uczenie predykcyjne
term_id: predictive_learning
Category: training_techniques
Definition
Uczenie predykcyjne obejmuje trenowanie sieci neuronowych w celu wnioskowania o nieobserwowanych punktach danych na podstawie obserwowanych wejść, bez jawnych etykiet ludzkich. Poprzez rozwiązywanie zadań takich jak przewidywanie kolejnego tokena w języku naturalnym czy maskowanie części obrazu, modele te uczą się głębokich reprezentacji strukturalnych danych.
Summary
Samouczący się podejście, w którym modele uczą się reprezentacji poprzez przewidywanie brakujących części danych wejściowych.
Key Concepts
- Samouczenie (self-supervision)
- Modelowanie z maskowaniem
- Uczenie reprezentacji
- Dane bez etykiet
Use Cases
- Wstępne trenowanie dużych modeli językowych
- Zadania uzupełniania obrazów (image inpainting)
- Wykrywanie anomalii w szeregach czasowych