Highway síť
term_id: highway_network
Category: basic_concepts
Definition
Highway sítě jsou navrženy tak, aby řešily problém mizejícího gradientu v hlubokém učení pomocí adaptivních bran, které kontrolují tok informací. Podobně jako buňky LSTM tyto brány umožňují síti naučit se, kolik vstupní informace má projít přímo (skip connection) a kolik má být transformováno prostřednictvím neuronové vrstvy. To umožňuje trénovat mnohem hlubší sítě než tradiční MLP bez degradace výkonu.
Summary
Architektura hluboké neuronové sítě, která zavádí bránící mechanismy pro usnadnění toku gradientu velmi hlubokými sítěmi.
Key Concepts
- Bránící mechanismus
- Mizející gradient
- Hluboké učení
- Tok informací
Use Cases
- Hluboké neuronové sítě
- Rozpoznávání řeči
- Počítačové vidění