Aktivasyon Fonksiyonu

term_id: activation_function

Category: basic_concepts

Definition

Bir aktivasyon fonksiyonu, sinir ağına doğrusal olmayan özellikler kazandırarak karmaşık desenleri ve verilerdeki ilişkileri öğrenmesini sağlar. Bu fonksiyonlar olmadan çok katmanlı bir ağ, doğrusal bir dönüşüm gibi davranır ve karmaşık görevleri yerine getiremez.

Summary

Giriş sinyaline dayalı olarak bir sinir ağı düğümünün çıktısını belirleyen matematiksel bir denklem.

Key Concepts

  • Doğrusal Olmama
  • Gradyan İnişi
  • Nöron Aktivasyonu
  • Geri Yayılım

Use Cases

  • Derin sinir ağlarının görüntü sınıflandırmasını sağlaması
  • Doğal dil işleme görevlerini kolaylaştırması
  • Jeneratif modellerin eğitiminde yakınsama hızını iyileştirmesi

Code Example

1
2
3

import torch.nn as nn
relu = nn.ReLU()
output = relu(input_tensor)

Related