Overføringslæring

term_id: transfer_learning

Category: training_techniques

Definition

Overføringslæring utnytter forhåndstrente modeller for å forbedre ytelsen og redusere treningstiden på nye, relaterte oppgaver. I stedet for å trene fra bunnen av, finsjusterer utviklerne eksisterende vekter, noe som gjør det mulig å

Summary

En maskinlæringsmetode der en modell utviklet for én oppgave gjenbrukes som utgangspunkt for en modell på en annen oppgave.

Key Concepts

  • Forhåndstrente modeller
  • Finsjustering
  • Tilpasning til domene
  • Trekkutvinning

Use Cases

  • Bildklassifisering med begrenset data
  • Stemningsanalyse på nisjefremstillinger
  • Assistanse ved medisinsk diagnostikk

Code Example

1
2
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)