الدقة الخاضعة للإشراف

term_id: supervised_fine_tuning

Category: training_techniques

Definition

تتضمن الدقة الخاضعة للإشراف (SFT) أخذ نموذج كبير مُدرَّب مسبقًا، مثل نموذج لغوي، واستكمال تدريبه على مجموعة بيانات أصغر وعالية الجودة والموسومة لمهمة لاحقة محددة.

Summary

عملية تدريب نموذج مُدرَّب مسبقًا بشكل إضافي على مجموعة بيانات محددة لتكييفه مع مهمة أو مجال معين.

Key Concepts

  • النماذج المُدرَّبة مسبقًا
  • التعلم بالنقل
  • ضبط التعليمات
  • تكييف المجال

Use Cases

  • تطوير روبوتات محادثة مخصصة
  • أنظمة الأسئلة والأجوبة الطبية المتخصصة
  • مساعدي توليد الأكواد البرمجية

Code Example

1
2
3
4
5
6
7

model.train()
for batch in dataloader:
    inputs, labels = batch
    outputs = model(inputs, labels=labels)
    loss = outputs.loss
    loss.backward()
    optimizer.step()

Related