QLoRA

Definition

QLoRA combina la Adaptación de Bajo Rango (LoRA) con cuantización de 4 bits para reducir significativamente la huella de memoria necesaria para el ajuste fino de modelos masivos. Al almacenar los pesos en formato de 4 bits y añadir adaptadores ligeros, permite entrenar modelos grandes en hardware limitado.

Summary

Adaptación de Bajo Rango Cuantizada, un método para ajustar finamente grandes modelos de lenguaje de manera eficiente utilizando cuantización de 4 bits y adaptadores de bajo rango.

Key Concepts

• Adaptación de Bajo Rango
• Cuantización de 4 Bits
• Eficiencia de Memoria
• Ajuste Fino

Use Cases

• Ajuste Fino con GPU de Consumo
• Entornos con Recursos Limitados
• Iteración Rápida de Modelos

Code Example

1
2
3

from peft import LoraConfig, get_peft_model
config = LoraConfig(r=8, lora_alpha=32, target_modules=["q_proj", "v_proj"])
model = get_peft_model(base_model, config)

Related Terms

• LoRA (Técnica de adaptación de bajo rango)
• PEFT (Técnicas de Ajuste Fino Eficiente en Parámetros)
• Cuantización (Reducción de la precisión numérica)
• Ajuste Fino Eficiente en Parámetros (Métodos para entrenar modelos grandes sin actualizar todos los parámetros)