ELMo
term_id: elmo
Category: basic_concepts
Definition
ELMo erzeugt kontextsensitive Wort-Embeddings, indem der Eingabetext durch ein bidirektionales LSTM verarbeitet wird, das auf einem großen Korpus trainiert wurde. Im Gegensatz zu statischen Embeddings wie Word2Vec erfasst ELMo Polysemie, indem es…
Summary
Embeddings from Language Models, eine Methode zur Erzeugung tiefer kontextueller Wortrepräsentationen unter Verwendung bidirektionaler LSTMs.
Key Concepts
- Kontextuelle Embeddings
- Bidirektionales LSTM
- Pre-training (Vorabtraining)
- Polysemie (Mehrdeutigkeit)
Use Cases
- Stimmungsanalyse (Sentiment Analysis)
- Erkennung benannter Entitäten
- Kohärenzauflösung (Coreference Resolution)