Adapteri
term_id: adapter
Category: training_techniques
Definition
Adapterit ovat parametritehokas hienosäätötekniikka, jota käytetään pääasiassa suurissa kielimalleissa ja transformer-malleissa. Sen sijaan, että kaikkia mallin painoja päivitettäisiin, mikä on laskennallisesti kallista, adapterit…
Summary
Kevyt moduuli, joka lisätään esikoulutettuihin malleihin tehokkaan hienosäädön mahdollistamiseksi tiettyjä tehtäviä varten.
Key Concepts
- Parametritehokas hienosäätö
- Siirtäminen oppiminen (Transfer Learning)
- Modulaarinen arkkitehtuuri
- Katastrofaalinen unohtaminen
Use Cases
- Suurten kielimallien hienosäätö asiakaspalvelubotteja varten
- Näkymämallien soveltaminen lääketieteelliseen kuvantamiseen
- Useiden erikoistuneiden mallien tehokas käyttöönotto