Ajuste Fino Supervisionado

term_id: supervised_fine_tuning

Category: training_techniques

Definition

O Ajuste Fino Supervisionado (SFT, do inglês Supervised Fine-tuning) envolve pegar um grande modelo pré-treinado, como um modelo de linguagem, e continuar seu treinamento em um conjunto de dados menor e de alta qualidade, rotulado para uma tarefa específica subsequente.

Summary

O processo de treinamento adicional de um modelo pré-treinado em um conjunto de dados específico para adaptá-lo a uma tarefa ou domínio particular.

Key Concepts

  • Modelos Pré-treinados
  • Aprendizado por Transferência
  • Ajuste Fino por Instrução
  • Adaptação de Domínio

Use Cases

  • Desenvolvimento de chatbots personalizados
  • Sistemas especializados de perguntas e respostas médicas
  • Assistentes de geração de código

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related