XLM-RoBERTa

term_id: xlm_roberta

Category: basic_concepts

Definition

XLM-RoBERTa (Cross-lingual Language Model RoBERTa) ist ein großes, multilinguales Modell, das von Meta AI entwickelt wurde. Es erweitert die RoBERTa-Architektur durch Vortraining auf einem vielfältigen Datensatz, der mehr als 100

Summary

Ein mehrsprachiges Transformer-Modell auf Basis von RoBERTa, das mit massiven Textmengen aus über 100 Sprachen vortrainiert wurde.

Key Concepts

  • Mehrsprachige NLP
  • Transformer-Architektur
  • Crosslinguale Übertragung
  • Vortraining

Use Cases

  • Mehrsprachige Sentiment-Analyse
  • Crosslinguale Fragebeantwortung
  • Maschinelle Übersetzung