多義性

term_id: polysemanticity

Category: basic_concepts

Definition

多義性は、特にトランスフォーマーなどの深層ニューラルネットワークで観察される特性であり、単一のニューロンが、無関係または意味的に異なる複数の特徴に対して活性化することがあります。

Summary

ニューラルネットワーク内の個々のニューロンが複数の異なる概念に応答する現象。

Key Concepts

ニューロン解釈可能性
スパースオートエンコーダー
特徴の分離
トランスフォーマーアーキテクチャ

Use Cases

機構的解釈可能性の研究
モデル動作のデバッグ
モデルの透明性と安全性の向上