Polisemanticità
term_id: polysemanticity
Category: basic_concepts
Definition
La polisemanticità è una caratteristica osservata nelle reti neurali profonde, in particolare nei transformer, in cui un singolo neurone può attivarsi in risposta a diversi elementi non correlati o semanticamente distinti
Summary
Il fenomeno per cui i singoli neuroni nelle reti neurali rispondono a più concetti distinti.
Key Concepts
- Interpretabilità dei neuroni
- Autoencoder sparsi
- Disaccoppiamento delle funzionalità
- Architettura Transformer
Use Cases
- Ricerca sull’interpretabilità meccanicistica
- Debug del comportamento del modello
- Miglioramento della trasparenza e della sicurezza del modello