지시어 튜닝

term_id: instruction_tuning

Category: training_techniques

Definition

이 과정은 일반적인 사전 훈련과 특정 작업 수행 사이의 격차를 메웁니다. 다양한 지시문-응답 쌍에 노출시킴으로써, 모델은 추가적인 조정 없이 미처 보지 못한 작업에도 일반화하는 방법을 학습합니다.

Summary

지시어 튜닝은 사전 훈련된 언어 모델을 지시문과 해당 응답 데이터셋으로 학습시켜 작업 수행 능력을 향상시키는 파인튜닝 기법입니다.

Key Concepts

파인튜닝
지도 학습
제로샷 일반화
인간 정렬

Use Cases

챗봇 구축
코드 생성 정확도 향상
모델을 안전 가이드라인과 정렬