Policromaticidad
term_id: polysemanticity
Category: basic_concepts
Definition
La policromaticidad es una característica observada en redes neuronales profundas, particularmente en transformadores, donde una sola neurona puede activarse en respuesta a varios rasgos no relacionados o semánticamente distintos.
Summary
El fenómeno por el cual las neuronas individuales en redes neuronales responden a múltiples conceptos distintos.
Key Concepts
- Interpretabilidad de neuronas
- Autoencoders dispersos
- Desacoplamiento de características
- Arquitectura Transformer
Use Cases
- Investigación en interpretabilidad mecánica
- Depuración del comportamiento del modelo
- Mejora de la transparencia y seguridad del modelo