Mecanismo de Atención
term_id: attention_mechanism
Category: basic_concepts
Definition
Un mecanismo de atención permite a un modelo ponderar dinámicamente la importancia de diferentes elementos dentro de una secuencia de entrada. En lugar de tratar todos los datos de entrada por igual, asigna distintos niveles de sign
Summary
Una técnica que permite a las redes neuronales centrarse en partes específicas de los datos de entrada al producir salidas.
Key Concepts
- Autoatención
- Vectores de Contexto
- Suma Ponderada
- Arquitectura Transformer
Use Cases
- Modelos de traducción automática
- Generación de descripciones de imágenes
- Resumen de textos