다의성(Polysemanticity)
term_id: polysemanticity
Category: basic_concepts
Definition
다의성은 특히 트랜스포머를 포함한 심층 신경망에서 관찰되는 특성으로, 단일 뉴런이 서로 관련이 없거나 의미적으로 구별되는 여러 특징에 대해 활성화될 수 있음을 의미합니다.
Summary
신경망의 개별 뉴런이 여러 개의 서로 다른 개념에 반응하는 현상입니다.
Key Concepts
- 뉴런 해석 가능성
- 희소 오토인코더
- 특징 분리
- 트랜스포머 아키텍처
Use Cases
- 기계적 해석 가능성 연구
- 모델 동작 디버깅
- 모델 투명성 및 안전성 향상