게이트드 리커런트 유닛

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

게이트드 리커런트 유닛(GRU)은 시계열 데이터의 장기적 의존성을 포착하도록 설계된 특수한 순환 신경망(RNN) 셀입니다. 이는 롱 숏텀 메모리(LSTM) 아키텍처를 단순화하여 계산 효율성을 높이고 학습 속도를 개선합니다.

Summary

정보 흐름을 제어하기 위해 게이트 메커니즘을 사용하는 순환 신경망(RNN) 아키텍처의 일종으로, LSTM의 단순화된 대안입니다.

Key Concepts

  • 순환 신경망
  • 업데이트 게이트
  • 리셋 게이트
  • 시퀀스 모델링

Use Cases

  • 자연어 처리
  • 시계열 예측
  • 음성 인식

Code Example

import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)

관련 글