Adapter
term_id: adapter
Category: training_techniques
Definition
Adaptorer er en parameter-effektiv finjusteringsteknikk som primært brukes i store språkmodeller og transformere. I stedet for å oppdatere alle modellvektene, noe som er datamessig kostbart, innfører adaptorer…
Summary
En lettvektets modul som settes inn i forhåndstreningte modeller for å muliggjøre effektiv finjustering for spesifikke nedstrømsoppgaver.
Key Concepts
- Parameter-effektiv finjustering
- Overføringslæring
- Modulær arkitektur
- Katastrofalsk glemming
Use Cases
- Finjustering av store språkmodeller for kundeservice-sjatterbotters
- Tilpasning av visjonsmodeller for analyse av medisinske bilder
- Distribusjon av flere domenespesifikke modeller på en effektiv måte