XLM-RoBERTa
term_id: xlm_roberta
Category: basic_concepts
Definition
XLM-RoBERTa (Cross-lingual Language Model RoBERTa) est un modèle multilingue à grande échelle développé par Meta AI. Il étend l’architecture de RoBERTa en étant pré-entraîné sur un ensemble de données diversifié couvrant plus de 100
Summary
Un modèle transformateur multilingue basé sur RoBERTa, pré-entraîné sur d’énormes quantités de texte provenant de plus de 100 langues.
Key Concepts
- TAL multilingue
- Architecture Transformer
- Transfert interlangues
- Pré-entraînement
Use Cases
- Analyse de sentiments multilingue
- Réponse aux questions interlangues
- Traduction automatique