ELMo

term_id: elmo

Category: basic_concepts

Definition

ELMo genererer kontekstsensitive ord-embeddings ved å behandle inndata gjennom en todrettet LSTM trent på et stort korpus. I motsetning til statiske embeddings som Word2Vec, fanger ELMo polysemi ved å produsere ulike representasjoner for samme ord basert på konteksten.

Summary

Embeddings fra språkmodeller, en metode for dype kontekstuelle ordrepresentasjoner som bruker todrettede LSTMer.

Key Concepts

  • Kontekstuelle embeddings
  • Todrettet LSTM
  • For-trening
  • Polysemi

Use Cases

  • Stemningsanalyse
  • Navngitt entitetsgjenkjenning
  • Koresolusjon