XLM-RoBERTa

term_id: xlm_roberta

Category: basic_concepts

Definition

XLM-RoBERTa (Cross-lingual Language Model RoBERTa) er en stor skaleringsflerspråklig modell utviklet av Meta AI. Den utvider RoBERTa-arkitekturen ved å forhåndstrene på et mangfoldig datamateriale som dekker over 100…

Summary

En flerspråklig transformermodell basert på RoBERTa, forhåndstrent på enorme mengder tekst fra over 100 språk.

Key Concepts

  • Flerspråklig NLP
  • Transformerarkitektur
  • Krysspråklig overføring
  • Forhåndstrening

Use Cases

  • Flerspråklig sentimentanalyse
  • Krysspråklig spørsmålsbesvarelse
  • Maskinoversettelse