الضبط الدقيق

term_id: fine_tuning

Category: training_techniques

Definition

يتضمن الضبط الدقيق أخذ نموذج مُدرَّب بالفعل على مجموعة بيانات عامة كبيرة وتدريبه بشكل إضافي على مجموعة بيانات متخصصة. يسمح هذا للنموذج بالاحتفاظ بالمعرفة العامة بينما يكتسب مهارات مخصصة للمهمة.

Summary

عملية تكييف نموذج مُدرَّب مسبقاً مع مهمة محددة باستخدام مجموعة بيانات أصغر.

Key Concepts

  • التعلم بالنقل
  • النموذج المُدرَّب مسبقاً
  • التكيف الخاص بالمهمة
  • معدل التعلم

Use Cases

  • تكييف نماذج اللغات الكبيرة (LLMs) لروبوتات الدردشة لخدمة العملاء
  • تخصيص مصنفات الصور للتشخيص الطبي
  • تخصيص التعرف على الكلام لهجات محددة

Code Example

1
2
3
4
5
6

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased')
# Freeze base layers
for param in model.bert.parameters():
    param.requires_grad = False
# Train only classification head

Related