Перенос обучения

term_id: transfer_learning

Category: training_techniques

Definition

Перенос обучения использует предварительно обученные модели для повышения производительности и сокращения времени обучения на новых, связанных задачах. Вместо обучения с нуля разработчики дообучают существующие веса, что позволяет

Summary

Метод машинного обучения, при котором модель, разработанная для одной задачи, используется в качестве начальной точки для модели на второй задаче.

Key Concepts

  • Предварительно обученные модели
  • Дообучение
  • Адаптация к предметной области
  • Извлечение признаков

Use Cases

  • Классификация изображений при ограниченном объеме данных
  • Анализ тональности текста по узкоспециализированным темам
  • Помощь в медицинской диагностике

Code Example

1
2

from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)

Related