Adattatore
term_id: adapter
Category: training_techniques
Definition
Gli adattatori sono una tecnica di fine-tuning efficiente nei parametri, utilizzata principalmente nei grandi modelli linguistici e nei transformer. Invece di aggiornare tutti i pesi del modello, che è computazionalmente costoso, gli adattatori
Summary
Un modulo leggero inserito nei modelli pre-addestrati per abilitare un fine-tuning efficiente per compiti specifici.
Key Concepts
- Fine-tuning efficiente nei parametri
- Apprendimento per trasferimento
- Architettura modulare
- Dimenticanza catastrofica
Use Cases
- Fine-tuning di LLM per chatbot di assistenza clienti
- Adattamento di modelli visivi per l’analisi di immagini mediche
- Implementazione efficiente di più modelli specifici per dominio