Valvottu hienosäätö

term_id: supervised_fine_tuning

Category: training_techniques

Definition

Valvottu hienosäätö (SFT) tarkoittaa suuren esikoulutetun mallin, kuten kielimallin, käyttämistä ja sen koulutuksen jatkamista pienemmällä, korkealaatuisella ja tiettyyn tehtävään merkityllä aineistolla.

Summary

Prosessi, jossa esikoulutettua mallia koulutetaan edelleen tietyn datan päällä soveltaakseen sitä tiettyyn tehtävään tai alueeseen.

Key Concepts

  • Esikoulutetut mallit
  • Siirtäminen oppimisesta (Transfer Learning)
  • Ohjetun hienosäätö
  • Alueen mukauttaminen

Use Cases

  • Mukautettujen chatbottien kehitys
  • Erikoistuneet lääketieteelliset kysymys-vastaus-järjestelmät
  • Koodin generointia avustavat työkalut

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related