ELMo
term_id: elmo
Category: basic_concepts
Definition
ELMo genererar kontextkänsliga ordembeddingar genom att bearbeta inmatad text genom en bidirektionell LSTM tränad på ett stort korpus. Till skillnad från statiska embeddingar som Word2Vec fångar ELMo polysemi genom att producera olika representationer beroende på ordets användning i meningen.
Summary
Embeddings from Language Models, en metod för djupa kontextuella ordrepresentationer som använder bidirektionella LSTM:n.
Key Concepts
- Kontextuella embeddingar
- Bidirektionell LSTM
- Förträning
- Polysemi
Use Cases
- Stämningsanalys
- Namnentitetsigenkänning
- Koreferensupplösning