QLoRA

term_id: qlora

Category: training_techniques

Definition

QLoRA는 저랭크 어댑테이션(LoRA)과 4비트 양자화를 결합하여 방대한 모델의 파인튜닝에 필요한 메모리 사용량을 획기적으로 줄입니다. 가중치를 4비트 형식으로 저장하고 추가적인…

Summary

양자화된 저랭크 어댑테이션(Quantized Low-Rank Adaptation)으로, 4비트 양자화와 저랭크 어댑터를 사용하여 대규모 언어 모델을 효율적으로 파인튜닝하는 방법입니다.

Key Concepts

  • 저랭크 어댑테이션(Low-Rank Adaptation)
  • 4비트 양자화(4-Bit Quantization)
  • 메모리 효율성(Memory Efficiency)
  • 파인튜닝(Fine-Tuning)

Use Cases

  • 소비자용 GPU 파인튜닝
  • 자원 제약 환경
  • 신속한 모델 반복 개발

Code Example

1
2
3

from peft import LoraConfig, get_peft_model
config = LoraConfig(r=8, lora_alpha=32, target_modules=["q_proj", "v_proj"])
model = get_peft_model(base_model, config)

Related