Polysemantie
term_id: polysemanticity
Category: basic_concepts
Definition
Polysemantie is een kenmerk dat wordt waargenomen in diepe neurale netwerken, met name in transformers, waarbij een enkel neuron kan activeren als reactie op verschillende ongebruikelijke of semantisch verschillende…
Summary
Het fenomeen waarbij individuele neuronen in neurale netwerken reageren op meerdere verschillende concepten.
Key Concepts
- Neuron-interpretatie
- Sparse Autoencoders
- Ontwarren van kenmerken
- Transformer-architectuur
Use Cases
- Onderzoek naar mechanistische interpretatie
- Foutopsporing in modelgedrag
- Verbeteren van transparantie en veiligheid van modellen