LoRA(저랭크 어댑테이션)

term_id: lora

Category: training_techniques

Definition

LoRA는 사전 학습된 모델 가중치를 고정하고 트랜스포머 아키텍처의 각 레이어에 학습 가능한 분해 행렬을 삽입합니다. 이러한 저랭크 행렬만 최적화함으로써 LoRA는 계산 비용과 메모리 사용량을 크게 줄입니다.

Summary

기존 모델 가중치에 학습 가능한 저랭크 분해 행렬을 주입하여 파라미터 효율적인 파인튜닝을 수행하는 방법입니다.

Key Concepts

  • 파라미터 효율적 파인튜닝(Parameter-Efficient Fine-Tuning)
  • 랭크 분해(Rank Decomposition)
  • 가중치 고정(Freezing Weights)
  • 어댑터 모듈(Adapter Modules)

Use Cases

  • 대규모 언어 모델(LLM) 사용자 정의(Customizing LLMs)
  • 도메인 특화 적응(Domain-Specific Adaptation)
  • 자원 제약 환경에서의 훈련(Resource-Constrained Training)

Code Example

1
2
3

from peft import LoraConfig, get_peft_model
config = LoraConfig(r=8, lora_alpha=32)
model = get_peft_model(base_model, config)

Related