Penyetelan Halus Supervisi

Definition

Penyetelan Halus Supervisi (SFT) melibatkan pengambilan model pra-latih berskala besar, seperti model bahasa, dan melanjutkan pelatihannya pada dataset kecil berkualitas tinggi yang berlabel untuk tugas turunan tertentu.

Summary

Proses melatih ulang model pra-latih pada dataset spesifik untuk menyesuaikannya dengan tugas atau domain tertentu.

Key Concepts

• Model Pra-Latih
• Pembelajaran Transfer
• Penyetelan Instruksi
• Adaptasi Domain

Use Cases

• Pengembangan chatbot kustom
• Sistem tanya-jawab medis khusus
• Asisten generasi kode

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related Terms

• Pra-pelatihan (Pre-training)
• Reinforcement Learning from Human Feedback (RLHF)
• Rekayasa Prompt (Prompt Engineering)
• LLM (Large Language Model)