XLM-RoBERTa

term_id: xlm_roberta

Category: basic_concepts

Definition

XLM-RoBERTa(Cross-lingual Language Model RoBERTa)는 Meta AI에서 개발한 대규모 다국어 모델입니다. 100개 이상의 언어를 아우르는 다양한 데이터셋으로 사전 훈련함으로써 RoBERTa 아키텍처를 확장하여 크로스링구얼 성능을 향상시켰습니다.

Summary

100개 이상의 언어로 된 방대한 양의 텍스트로 사전 훈련된 RoBERTa 기반의 다국어 트랜스포머 모델입니다.

Key Concepts

  • 다국어 NLP
  • 트랜스포머 아키텍처
  • 크로스링구얼 전이
  • 사전 훈련

Use Cases

  • 다국어 감정 분석
  • 크로스링구얼 질문 답변
  • 기계 번역

Related