Afinare supravegheată

term_id: supervised_fine_tuning

Category: training_techniques

Definition

Afinarea supravegheată (SFT) implică preluarea unui model pre-antrenat mare, cum ar fi un model lingvistic, și continuarea antrenamentului acestuia pe un set de date mai mic, de înaltă calitate, etichetat pentru o sarcină downstream specifică.

Summary

Procesul de antrenare suplimentară a unui model pre-antrenat pe un set de date specific pentru a-l adapta la o anumită sarcină sau domeniu.

Key Concepts

  • Modele pre-antrenate
  • Învățare prin transfer
  • Afinare prin instrucțiuni
  • Adaptare la domeniu

Use Cases

  • Dezvoltarea customizată de chatboți
  • Sisteme specializate de întrebări-răspuns medicale
  • Asistenți pentru generarea de cod

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related