Mạng đường cao tốc
term_id: highway_network
Category: basic_concepts
Definition
Mạng đường cao tốc (Highway Networks) được thiết kế để giải quyết vấn đề biến mất gradient trong học sâu bằng cách tích hợp các cổng thích ứng kiểm soát dòng thông tin. Tương tự như các tế bào LSTM, các cổng này cho phép mạng học cách chuyển tiếp thông tin trực tiếp từ đầu vào đến đầu ra hoặc biến đổi nó thông qua các hàm phi tuyến, giúp huấn luyện các mạng cực kỳ sâu mà vẫn duy trì hiệu suất tốt.
Summary
Một kiến trúc mạng nơ-ron sâu giới thiệu cơ chế cổng để tạo điều kiện cho dòng gradient chảy qua các mạng rất sâu.
Key Concepts
- Cơ chế cổng (Gating Mechanism)
- Biến mất gradient
- Học sâu
- Dòng thông tin
Use Cases
- Mạng nơ-ron sâu
- Nhận dạng giọng nói
- Thị giác máy tính