XLM-RoBERTa
term_id: xlm_roberta
Category: basic_concepts
Definition
O XLM-RoBERTa (Cross-lingual Language Model RoBERTa) é um modelo multilingue de grande escala desenvolvido pela Meta AI. Ele estende a arquitetura do RoBERTa ao ser pré-treinado em um conjunto de dados diverso que cobre mais de 100 idiomas, permitindo transferência cruzada de línguas e desempenho robusto em tarefas de PLN multilingues sem necessidade de ajuste fino específico por idioma.
Summary
Um modelo transformer multilingue baseado no RoBERTa, pré-treinado com grandes volumes de texto de mais de 100 idiomas.
Key Concepts
- PLN Multilingue
- Arquitetura Transformer
- Transferência Cross-lingual
- Pré-treinamento
Use Cases
- Análise de sentimento multilingue
- Resposta a perguntas cross-lingual
- Tradução automática