Длинный контекст

term_id: long

Category: basic_concepts

Definition

В контексте ИИ термин «длинный» часто описывает способность обрабатывать обширные входные данные, такие как длинные документы или длительные видеопотоки. Для больших языковых моделей это включает управление длинным контекстом

Summary

Обычно относится к расширенным последовательностям данных, таким как окна длинного контекста в моделях обработки естественного языка.

Key Concepts

  • Окно контекста
  • Длина последовательности
  • Механизм внимания
  • Управление памятью

Use Cases

  • Суммаризация документов
  • Генерация контента большого объема
  • Анализ кодовой базы