Adaptateur
term_id: adapter
Category: training_techniques
Definition
Les adaptateurs sont une technique d’ajustement fin économe en paramètres, principalement utilisée dans les grands modèles de langage et les transformeurs. Au lieu de mettre à jour tous les poids du modèle, ce qui est coûteux en calcul, les adaptateurs…
Summary
Un module léger inséré dans des modèles pré-entraînés pour permettre un ajustement fin efficace pour des tâches spécifiques.
Key Concepts
- Ajustement fin économe en paramètres
- Apprentissage par transfert
- Architecture modulaire
- Oubli catastrophique
Use Cases
- Ajustement fin de LLM pour des chatbots de service client
- Adaptation de modèles visuels pour l’analyse d’images médicales
- Déploiement efficace de plusieurs modèles spécifiques à un domaine