XLM-RoBERTa
term_id: xlm_roberta
Category: basic_concepts
Definition
XLM-RoBERTa (Cross-lingual Language Model RoBERTa) adalah model multibahasa skala besar yang dikembangkan oleh Meta AI. Model ini memperluas arsitektur RoBERTa dengan melakukan pelatihan awal pada dataset beragam yang mencakup lebih dari 100…
Summary
Model transformer multibahasa yang didasarkan pada RoBERTa, yang telah dilatih sebelumnya pada jumlah teks masif dari lebih dari 100 bahasa.
Key Concepts
- Pemrosesan Bahasa Alami Multibahasa
- Arsitektur Transformer
- Transfer Lintas-Bahasa
- Pelatihan Awal
Use Cases
- Analisis sentimen multibahasa
- Penjawaban pertanyaan lintas-bahasa
- Terjemahan mesin