ELMo

term_id: elmo

Category: basic_concepts

Definition

ELMo menghasilkan embedding kata yang sensitif terhadap konteks dengan memproses teks masukan melalui LSTM dua arah yang dilatih pada korpus besar. Berbeda dengan embedding statis seperti Word2Vec, ELMo menangkap polisemi dengan menghasilkan…

Summary

Embeddings from Language Models, metode representasi kata kontekstual mendalam menggunakan LSTM dua arah.

Key Concepts

  • Embedding Kontekstual
  • LSTM Dua Arah
  • Pra-pelatihan
  • Polisemi

Use Cases

  • Analisis sentimen
  • Pengenalan entitas bernama
  • Resolusi ko-referensi