دالة التنشيط

term_id: activation_function

Category: basic_concepts

Definition

تُدخل دالة التنشيط عدم الخطية إلى الشبكة العصبية، مما يتيح لها تعلم الأنماط والعلاقات المعقدة داخل البيانات. وبدون هذه الدوال، ستتصرف الشبكة متعددة الطبقات كمجرد تحويل خطي بسيط.

Summary

معادلة رياضية تحدد مخرج عقدة في الشبكة العصبية بناءً على إشارة الدخل.

Key Concepts

  • عدم الخطية
  • هبوط التدرج
  • تنشيط العصبون
  • الانتشار العكسي

Use Cases

  • تمكين الشبكات العصبية العميقة من تصنيف الصور
  • تسهيل مهام معالجة اللغات الطبيعية
  • تحسين سرعة التقارب في تدريب النماذج التوليدية

Code Example

1
2
3

import torch.nn as nn
relu = nn.ReLU()
output = relu(input_tensor)

Related