롱 숏텀 메모리 (LSTM)

term_id: long_short_term_memory

Category: basic_concepts

Definition

LSTM 네트워크는 셀 상태와 세 가지 게이트 메커니즘(입력 게이트, 망각 게이트, 출력 게이트)을 사용하여 표준 RNN에서 흔히 발생하는 기울기 소실 문제를 해결합니다. 이러한 게이트들은 정보의 흐름을 조절하여 중요한 정보를 장기간 보존하고 불필요한 정보는 버리도록 합니다.

Summary

시계열 데이터에서 장기 의존성을 학습하도록 설계된 특수한 순환 신경망(RNN) 아키텍처입니다.

Key Concepts

  • 게이트 메커니즘
  • 셀 상태
  • 순차적 데이터
  • 기울기 소실

Use Cases

  • 시계열 예측
  • 음성 인식
  • 기계 번역

Code Example

1
2

import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)

Related