Adapter
term_id: adapter
Category: training_techniques
Definition
Adapters är en teknik för finjustering med låg parameterförbrukning som främst används i stora språkmodeller och transformatorer. Istället för att uppdatera alla modellvikter, vilket är beräkningsmässigt dyrt, infogar adapters…
Summary
En lättviktig modul som infogas i förtränade modeller för att möjliggöra effektiv finjustering för specifika efterföljande uppgifter.
Key Concepts
- Finjustering med låg parameterförbrukning
- Överföringsinlärning
- Modulär arkitektur
- Katastrofalt glömska
Use Cases
- Finjustering av stora språkmodeller för kundtjänstchattbotar
- Anpassning av bildmodeller för medicinsk bildanalys
- Effektiv distribution av flera domänspecifika modeller