Uczenie transferowe

term_id: transfer_learning

Category: training_techniques

Definition

Uczenie transferowe wykorzystuje modele wstępnie wytrenowane, aby poprawić wydajność i skrócić czas trenowania na nowych, pokrewnych zadaniach. Zamiast trenować model od zera, deweloperzy dostosowują istniejące wagi, co pozwala na szybsze osiągnięcie dobrych wyników przy mniejszym nakładzie danych.

Summary

Technika uczenia maszynowego, w której model opracowany do jednego zadania jest ponownie wykorzystywany jako punkt wyjścia dla modelu realizującego drugie zadanie.

Key Concepts

  • Modele wstępnie wytrenowane
  • Dopasowywanie (Fine-tuning)
  • Adaptacja domeny
  • Ekstrakcja cech

Use Cases

  • Klasyfikacja obrazów przy ograniczonych danych
  • Analiza sentymentu w niszowych tematach
  • Wspomaganie diagnoz medycznych

Code Example

1
2
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)