Transfer Learning

term_id: transfer_learning

Category: training_techniques

Definition

Transfer learning memanfaatkan model yang telah dilatih sebelumnya untuk meningkatkan kinerja dan mengurangi waktu pelatihan pada tugas baru yang terkait. Alih-alih melatih dari awal, pengembang melakukan penyesuaian halus (fine-tuning) pada bobot yang ada, memungkinkan

Summary

Sebuah teknik pembelajaran mesin di mana model yang dikembangkan untuk satu tugas digunakan kembali sebagai titik awal untuk model pada tugas kedua.

Key Concepts

  • Model yang Telah Dilatih Sebelumnya
  • Penyesuaian Halus (Fine-tuning)
  • Adaptasi Domain
  • Ekstraksi Fitur

Use Cases

  • Klasifikasi gambar dengan data terbatas
  • Analisis sentimen pada topik khusus
  • Bantuan diagnosis medis

Code Example

1
2
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)