ELMo
term_id: elmo
Category: basic_concepts
Definition
ELMoは、大規模コーパスで訓練された双方向LSTMに入力テキストを処理することで、文脈依存の単語埋め込みを生成します。Word2Vecなどの静的な埋め込みとは異なり、ELMoは多義性を捉えるために、単語の出現文脈に基づいて異なる埋め込みベクトルを出力します。
Summary
双方向LSTMを用いた深層文脈依存語表現手法である、Language Modelsからの埋め込み。
Key Concepts
- 文脈依存埋め込み
- 双方向LSTM
- 事前学習
- 多義性
Use Cases
- 感情分析
- 固有表現認識
- 共参照解決