Aprendizado Auto-supervisionado
term_id: self_supervised_learning
Category: training_techniques
Definition
O aprendizado auto-supervisionado é uma técnica na qual o algoritmo cria sinais de supervisão a partir dos próprios dados não rotulados, geralmente prevendo partes faltantes da entrada. Ele preenche a lacuna entre u
Summary
Um método de treinamento onde o modelo gera seus próprios rótulos a partir dos dados de entrada para aprender representações.
Key Concepts
- Pré-treinamento
- Modelagem de Linguagem Mascara
- Aprendizado Contrastivo
- Aprendizado de Representação
Use Cases
- Treinamento de grandes modelos de linguagem
- Aprendizado de representação de imagens
- Sistemas de reconhecimento de fala
Code Example
| |