사전 훈련된

term_id: pretrained

Category: training_techniques

Definition

‘사전 훈련된’이라는 용어는 ImageNet이나 Wikipedia와 같은 방대하고 일반적인 데이터셋에서 초기 훈련을 거친 신경망 모델을 설명합니다. 이 과정을 통해 모델은 포괄적인 특징을 학습하게 됩니다.

Summary

특정 작업에 적응되기 전에 대규모 데이터셋으로 이미 훈련된 모델을 지칭합니다.

Key Concepts

  • 전이 학습
  • 특징 추출
  • 파운데이션 모델
  • 파인튜닝

Use Cases

  • BERT 또는 GPT 모델 초기화
  • 이미지 분류를 위한 ResNet 사용
  • 도메인 특화 NLP 작업의 시작점

Related