XLM-RoBERTa

term_id: xlm_roberta

Category: basic_concepts

Definition

XLM-RoBERTa(跨语言语言模型 RoBERTa)是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练,扩展了 RoBERTa 的架构,从而实现了强大的跨语言理解和生成能力,

Summary

一种基于 RoBERTa 的多语言 Transformer 模型,在超过 100 种语言的庞大文本数据集上进行预训练。

Key Concepts

  • 多语言自然语言处理
  • Transformer 架构
  • 跨语言迁移
  • 预训练

Use Cases

  • 多语言情感分析
  • 跨语言问答
  • 机器翻译