ELMo

term_id: elmo

Category: basic_concepts

Definition

ELMo generuje kontextově citlivá slovní vložení zpracováním vstupního textu prostřednictvím obousměrné LSTM trénované na velké korpusu. Na rozdíl od statických vložení, jako je Word2Vec, zachycuje ELMo vícesmyslnost tím, že produkuje různé reprezentace pro stejná slova v různých kontextech.

Summary

Vložení z jazykových modelů, metoda kontextově závislé reprezentace slov využívající obousměrné LSTM sítě.

Key Concepts

  • Kontextová vložení
  • Obousměrná LSTM
  • Předtrénování
  • Vícesmyslnost

Use Cases

  • Analýza sentimentu
  • Rozpoznávání entit (NER)
  • Řešení koreference