Fine-tuning

term_id: fine_tuning

Category: training_techniques

Definition

Fine-tuning liên quan đến việc lấy một mô hình đã được huấn luyện trên một tập dữ liệu lớn, tổng quát và tiếp tục huấn luyện nó trên một tập dữ liệu chuyên biệt. Điều này cho phép mô hình duy trì kiến thức chung trong khi học thêm các đặc thù của nhiệm vụ mới mà không cần huấn luyện lại từ đầu.

Summary

Quá trình điều chỉnh một mô hình đã được huấn luyện trước để phù hợp với một nhiệm vụ cụ thể bằng cách sử dụng một tập dữ liệu nhỏ hơn.

Key Concepts

  • Học Chuyển giao (Transfer Learning)
  • Mô hình Đã huấn luyện trước (Pre-trained Model)
  • Điều chỉnh Theo nhiệm vụ
  • Tốc độ Học (Learning Rate)

Use Cases

  • Điều chỉnh LLM cho bot trò chuyện dịch vụ khách hàng
  • Chuyên biệt hóa bộ phân loại hình ảnh cho chẩn đoán y tế
  • Tùy chỉnh nhận dạng giọng nói cho các giọng địa phương cụ thể

Code Example

1
2
3
4
5
6

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased')
# Freeze base layers
for param in model.bert.parameters():
    param.requires_grad = False
# Train only classification head

Related