ELMo
term_id: elmo
Category: basic_concepts
Definition
ELMo generează încorporări de cuvinte sensibile la context procesând textul de intrare printr-un LSTM bidirecțional antrenat pe un corp mare de texte. Spre deosebire de încorporările statice precum Word2Vec, ELMo surprinde polisemia generând reprezentări diferite pentru același cuvânt în funcție de fraza în care apare.
Summary
Încorporări din modele de limbaj, o metodă de reprezentare a cuvintelor contextualizate profund care utilizează LSTMs bidirecționale.
Key Concepts
- Încorporări contextuale
- LSTM bidirecțional
- Antrenare prealabilă
- Polisemie
Use Cases
- Analiza sentimentului
- Recunoașterea entităților numite
- Rezolvarea coreferenței