Réseau autoroutier
term_id: highway_network
Category: basic_concepts
Definition
Les réseaux autoroutiers sont conçus pour résoudre le problème de la disparition du gradient dans l’apprentissage profond en incorporant des portes adaptatives qui contrôlent le flux d’information. Similaires aux cellules LSTM, ces portes permettent au signal de passer directement d’une couche à une autre sans transformation non linéaire si cela est bénéfique, facilitant ainsi l’entraînement de réseaux extrêmement profonds.
Summary
Une architecture de réseau neuronal profond qui introduit des mécanismes de gâchette pour faciliter le flux de gradient à travers des réseaux très profonds.
Key Concepts
- Mécanisme de gâchette
- Disparition du gradient
- Apprentissage profond
- Flux d’information
Use Cases
- Réseaux neuronaux profonds
- Reconnaissance vocale
- Vision par ordinateur