Felügyelt finomhangolás

Definition

A Felügyelt Finomhangolás (SFT) során egy nagy, előre tanított modellt (például egy nyelvi modellt) továbbtanítanak egy kisebb, magas minőségű, specifikus feladatra címkézett adathalmazon.

Summary

Egy előre tanított modell további tanítása egy specifikus adathalmazon, hogy alkalmazkodjon egy adott feladathoz vagy területhez.

Key Concepts

• Előre tanított modellek
• Áttanulás (Transfer Learning)
• Útmutatás-alapú hangolás (Instruction Tuning)
• Területi adaptáció

Use Cases

• Egyedi chatbot fejlesztés
• Speciális orvosi kérdésválasztó rendszerek
• Kódgeneráló asszisztensek

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related Terms

• Előtanhítás (Pre-training)
• Erősítési tanulás emberi visszajelzéssel (RLHF)
• Prompt mérnökség
• LLM (Nagy Nyelvi Modell)