Transformers

Terms tagged with Transformers

Definition

O XLM-RoBERTa (Cross-lingual Language Model RoBERTa) é um modelo multilingue de grande …

O Prefix Tuning é uma técnica de adaptação eficiente em parâmetros para transformadores …

Contexto longo refere-se à capacidade dos modelos baseados em transformadores de lidar …

Fill Mask é um objetivo fundamental de pré-treinamento usado em modelos baseados em …

O ExBERT fornece interpretabilidade para o modelo transformer BERT, analisando a …

Como os Transformers processam todos os tokens em paralelo, em vez de sequencialmente …

Os codificadores processam sequências de entrada brutas ou estruturas de dados e os …

Os adaptadores são uma técnica de ajuste fino eficiente em parâmetros, usada …

Os mecanismos de atenção permitem que os modelos se concentrem nas informações relevantes …

A autoatenção permite que os modelos capturem dependências entre todas as posições em uma …