Обучение в контексте (In-Context Learning)

term_id: in_context_learning

Category: application_paradigms

Definition

Обучение в контексте (ICL) позволяет большим языковым моделям адаптироваться к новым задачам без обновления их весов. Предоставляя пары «вход-выход» в контексте запроса, модель выводит закономерность и…

Summary

Техника, при которой модели учатся выполнять задачи, наблюдая за примерами, предоставленными в запросе.

Key Concepts

  • Обучение с малым количеством примеров (Few-Shot Learning)
  • Нулевое обучение (Zero-Shot)
  • Дизайн промпта
  • Адаптация без изменения весов

Use Cases

  • Быстрое тестирование возможностей модели на новых наборах данных
  • Динамическое переключение задач в диалоговых агентах
  • Прототипирование ИИ-приложений без повторного обучения

Code Example

1
2

prompt = "Translate English to French:\nEnglish: Hello\nFrench: Bonjour\nEnglish: Cat\nFrench:"
response = model.generate(prompt)

Related