الاتصال المتبقي

term_id: residual_connection

Category: basic_concepts

Definition

تسمح الاتصالات المتبقية، المعروفة أيضاً بالاتصالات القافزة، للتدرجات بالتدفق عبر الشبكة عن طريق إضافة المدخلات مباشرة إلى مخرج طبقة لاحقة. تحل هذه البنية مشكلة تلاشي التدرج.

Summary

آلية تضيف المدخلات مباشرة إلى مخرج الطبقة لتسهيل تدفق التدرجات في الشبكات العميقة.

Key Concepts

  • الاتصالات القافزة
  • مشكلة تلاشي التدرج
  • التعلم المتبقي العميق
  • تدفق التدرج

Use Cases

  • تدريب شبكات عصبية تلافيفية عميقة
  • بنية المحولات (Transformers)
  • نماذج تصنيف الصور

Code Example

1
2
3
4
5
6
7

import torch.nn as nn
class ResidualBlock(nn.Module):
    def __init__(self, channels):
        super().__init__()
        self.conv = nn.Conv2d(channels, channels, 3, padding=1)
    def forward(self, x):
        return x + self.conv(x)

Related