파인튜닝

term_id: fine_tuning

Category: training_techniques

Definition

파인튜닝은 이미 대규모 일반 데이터셋으로 훈련된 모델을 가져와 전문화된 데이터셋으로 추가 훈련하는 것을 포함합니다. 이를 통해 모델은 일반적인 지식을 유지하면서 작업 특화된 능력을 획득할 수 있습니다.

Summary

더 작은 데이터셋을 사용하여 사전 훈련된 모델을 특정 다운스트림 작업에 맞게 조정하는 과정.

Key Concepts

전이 학습
사전 훈련된 모델
작업별 적응
학습률

Use Cases

고객 서비스 챗봇을 위한 LLM 조정
의료 진단을 위한 이미지 분류기 전문화
특정 억양을 위한 음성 인식 맞춤화

Code Example

1
2
3
4
5
6
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased')
# Freeze base layers
for param in model.bert.parameters():
    param.requires_grad = False
# Train only classification head