사후 훈련

term_id: post_training

Category: training_techniques

Definition

사후 훈련은 대규모 일반 데이터로 초기 사전 훈련이 완료된 후 발생하는 머신러닝 라이프사이클의 중요한 단계입니다. 이 단계에서 모델은 특정 태스크에 맞게 미세 조정되거나, 인간 선호도와 정렬되며, 효율성을 위해 양자화되기도 합니다.

Summary

특정 작업에 적응하거나 성능을 최적화하기 위해 사전 훈련된 모델을 특정 데이터셋으로 정제하는 단계.

Key Concepts

파인튜닝
RLHF (인간 피드백을 통한 강화 학습)
양자화
적응

Use Cases

LLM을 인간 선호도에 맞게 정렬
엣지 디바이스를 위한 모델 크기 최적화
의료 진단을 위한 모델 전문화