Forhåndstrent
term_id: pretrained
Category: training_techniques
Definition
Begrepet ‘forhåndstrent’ beskriver et nevral nettverksmodell som har gjennomgått initial trening på et massivt, ofte generelt datasett som ImageNet eller Wikipedia. Denne prosessen lar modellen lære fulle semantiske og syntaktiske mønstre, som deretter kan overføres til spesifikke oppgaver gjennom finjustering, noe som reduserer behovet for store mengder merket data for den nye oppgaven.
Summary
Refererer til en modell som allerede er trent på et stort datasett før den tilpasses til en spesifikk oppgave.
Key Concepts
- Overføringslæring
- Funksjonsekstraksjon
- Fundamentale modeller
- Finjustering
Use Cases
- Initialisering av BERT- eller GPT-modeller
- Bruk av ResNet for bildeklassifisering
- Startpunkt for domenespesifikke NLP-oppgaver