Polysemitet
term_id: polysemanticity
Category: basic_concepts
Definition
Polysemitet er en egenskap observert i dype nevrale nettverk, spesielt i transformere, der et enkelt nevron kan aktiveres som respons på flere uavhengige eller semantisk distinkte funksjoner.
Summary
Fenomenet der individuelle nevroner i nevrale nettverk responderer på flere distinkte konsepter.
Key Concepts
- Nevronfortolkelighet
- Sparsomme autoenkodere
- Oppsplitting av funksjoner
- Transformerarkitektur
Use Cases
- Forskning på mekanistisk fortolkelighet
- Feilsøking av modellatferd
- Forbedring av modellgjennomsiktighet og sikkerhet