Adaptador
term_id: adapter
Category: training_techniques
Definition
Los adaptadores son una técnica de ajuste fino eficiente en parámetros utilizada principalmente en grandes modelos de lenguaje y transformadores. En lugar de actualizar todos los pesos del modelo, lo cual es costoso computacionalmente, los adaptadores insertan pequeñas capas de parámetros entrenables que se ajustan a la tarea específica sin modificar la arquitectura base.
Summary
Un módulo ligero insertado en modelos preentrenados para permitir un ajuste fino eficiente para tareas específicas posteriores.
Key Concepts
- Ajuste Fino Eficiente en Parámetros
- Aprendizaje por Transferencia
- Arquitectura Modular
- Olvido Catastrófico
Use Cases
- Ajuste fino de LLMs para chatbots de servicio al cliente
- Adaptación de modelos de visión para análisis de imágenes médicas
- Despliegue eficiente de múltiples modelos específicos por dominio