Aprendizado Preditivo

term_id: predictive_learning

Category: training_techniques

Definition

O aprendizado preditivo envolve o treinamento de redes neurais para inferir pontos de dados não observados a partir de entradas observadas, sem rótulos humanos explícitos. Ao resolver tarefas como previsão do próximo token em linguagem ou preenchimento de imagens, os modelos aprendem representações úteis.

Summary

Uma abordagem auto-supervisionada onde os modelos aprendem representações prevendo partes faltantes dos dados de entrada.

Key Concepts

  • Auto-supervisão
  • Modelagem mascarada
  • Aprendizado de representação
  • Dados não rotulados

Use Cases

  • Pré-treinamento de grandes modelos de linguagem
  • Tarefas de inpainting de imagens
  • Detecção de anomalias em séries temporais