ELMo

term_id: elmo

Category: basic_concepts

Definition

ELMo genereert contextgevoelige woordembeddings door invoertekst te verwerken via een bidirectionele LSTM die is getraind op een grote corpus. In tegenstelling tot statische embeddings zoals Word2Vec, vangt ELMo polysemie op door verschillende betekenissen van woorden in verschillende contexten te modelleren.

Summary

Embeddings from Language Models, een methode voor diepe gecontextualiseerde woordrepresentaties met behulp van bidirectionele LSTMs.

Key Concepts

  • Gecontextualiseerde embeddings
  • Bidirectionele LSTM
  • Pre-training
  • Polysemie

Use Cases

  • Sentimentanalyse
  • Named entity recognition
  • Coreferentieoplossing