ELMo
term_id: elmo
Category: basic_concepts
Definition
ELMo genererer kontekstsensitive ordembeddings ved at behandle inputtekst gennem en bidirektionel LSTM, der er trænet på et stort korpus. I modsætning til statiske embeddings som Word2Vec fanger ELMo polysemi ved at producere forskellige repræsentationer for samme ord afhængigt af konteksten.
Summary
Embeddings fra sprogmodeller, en metode til dyb kontekstuel ordrepræsentation, der bruger bidirektionelle LSTMs.
Key Concepts
- Kontekstuelle embeddings
- Bidirektionel LSTM
- For-træning
- Polysemi
Use Cases
- Sentimentanalyse
- Navngivet enheds-genkendelse
- Koreferenceløsning