İnce Ayar

term_id: fine_tuning

Category: training_techniques

Definition

İnce ayar, büyük ve genel bir veri setinde zaten eğitilmiş bir modeli alıp, özelleştirilmiş bir veri seti üzerinde daha fazla eğitmeyi içerir. Bu, modelin genel bilgileri korurken görev

Summary

Önceden eğitilmiş bir modeli daha küçük bir veri seti kullanarak belirli bir sonraki göreve uyarlama süreci.

Key Concepts

  • Aktarma Öğrenmesi
  • Önceden Eğitilmiş Model
  • Göreve Özgü Uyarlanabilirlik
  • Öğrenme Oranı

Use Cases

  • Müşteri hizmetleri sohbet botları için Büyük Dil Modellerini (LLM) uyarlamak
  • Tıbbi tanı için görüntü sınıflandırıcılarını özelleştirmek
  • Belirli aksanlar için konuşma tanımayı özelleştirmek

Code Example

1
2
3
4
5
6

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased')
# Freeze base layers
for param in model.bert.parameters():
    param.requires_grad = False
# Train only classification head

Related