P-Tuning

term_id: p_tuning

Category: training_techniques

Definition

P-Tuning (Prompt Tuning) es una técnica diseñada para adaptar grandes modelos de lenguaje preentrenados a tareas específicas con un costo computacional mínimo. En lugar de ajustar finamente todos los parámetros del modelo,

Summary

P-Tuning es un método de ajuste fino eficiente en parámetros que optimiza incrustaciones continuas de prompts en lugar de actualizar todos los pesos del modelo preentrenado.

Key Concepts

  • Ajuste Fino Eficiente en Parámetros
  • Tokens Virtuales
  • Pesos Congelados
  • Optimización de Incrustaciones

Use Cases

  • Adaptación para aprendizaje con pocos ejemplos
  • Entornos con recursos limitados
  • Prototipado rápido de aplicaciones LLM