Apprentissage prédictif
term_id: predictive_learning
Category: training_techniques
Definition
L’apprentissage prédictif consiste à entraîner des réseaux de neurones à inférer des points de données non observés à partir d’entrées observées, sans étiquettes humaines explicites. En résolvant des tâches telles que la prédiction du prochain token dans le langage ou le masquage partiel des données, le modèle apprend des structures sous-jacentes.
Summary
Une approche auto-supervisée où les modèles apprennent des représentations en prédissant les parties manquantes des données d’entrée.
Key Concepts
- Auto-supervision
- Modélisation masquée
- Apprentissage de représentations
- Données non étiquetées
Use Cases
- Pré-entraînement de grands modèles de langage
- Tâches de remplissage d’images (image inpainting)
- Détection d’anomalies dans les séries temporelles