맘바(Mamba)
term_id: mamba
Category: basic_concepts
Definition
맘바는 하드웨어 인식 선택적 상태 공간 모델(SSM)을 도입함으로써 시퀀스 모델링 분야에서 중요한 진전을 이루었습니다. 기존 트랜스포머가 시퀀스 길이에 따라 제곱 복잡도로 확장되는 것과 달리, 맘바는 선형 복잡도를 제공하여 효율성을 높입니다.
Summary
맘바는 긴 컨텍스트 작업에서 트랜스포머 수준의 성능을 유지하면서 선형 시간 추론을 제공하는 상태 공간 시퀀스 모델입니다.
Key Concepts
- 선택적 상태 공간 모델(Selective State Space Models)
- 선형 복잡도(Linear Complexity)
- 하드웨어 인식 아키텍처(Hardware-Aware Architecture)
- 긴 컨텍스트 처리(Long-Context Processing)
Use Cases
- 긴 문서 요약
- 게놈 시퀀스 분석
- 고빈도 시계열 예측