Transformers

Terms tagged with Transformers

Definition

XLM-RoBERTa (Cross-lingual Language Model RoBERTa) — это крупномасштабная многоязычная …

Префиксное тонкое настраивание — это техника адаптации с эффективностью по количеству …

Длинный контекст относится к способности моделей на основе трансформеров обрабатывать …

Заполнение маски является фундаментальной целью предварительного обучения, используемой в …

ExBERT обеспечивает интерпретируемость модели-трансформера BERT за счет анализа важности …

Поскольку трансформеры обрабатывают все токены параллельно, а не последовательно, как …

Кодировщики обрабатывают исходные входные последовательности или структуры данных и …

Адаптеры — это техника эффективного по параметрам дообучения, используемая …

Механизмы внимания позволяют моделям фокусироваться на релевантной информации при …

Самовнимание позволяет моделям одновременно выявлять зависимости между всеми позициями в …