Transfer Learning

term_id: transfer_learning

Category: training_techniques

Definition

Transfer learning maakt gebruik van voorgeïnteresseerde modellen om de prestaties te verbeteren en de trainingstijd te verkorten voor nieuwe, gerelateerde taken. In plaats van opnieuw van nul te beginnen, passen ontwikkelaars bestaande gewichten aan (fine-tuning), waardoor

Summary

Een machine learning-techniek waarbij een model dat voor de ene taak is ontwikkeld, wordt hergebruikt als startpunt voor een model op een tweede taak.

Key Concepts

  • Voorgeïnteresseerde Modellen
  • Fine-tuning
  • Domeinadaptatie
  • Functie-extractie

Use Cases

  • Afbeeldingsclassificatie met beperkte gegevens
  • Sentimentanalyse voor niche-onderwerpen
  • Assistentie bij medische diagnose

Code Example

1
2

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)

Related