Aktiveringsfunktion

term_id: activation_function

Category: basic_concepts

Definition

En aktiveringsfunktion introducerer ikke-linearitet i et neuralt netværk, hvilket gør det muligt at lære komplekse mønstre og sammenhænge i data. Uden disse funktioner ville et flerlagsnetværk opføre sig…

Summary

En matematisk ligning, der bestemmer outputtet fra en neuronal netværksnode baseret på dens inputsignal.

Key Concepts

  • Ikke-linearitet
  • Gradient Descent (Gradientnedstigning)
  • Neuronaktivering
  • Bagudpropagering

Use Cases

  • Muliggøre klassificering af billeder ved hjælp af dybe neurale netværk
  • Facilitere opgaver inden for naturlig sprogbehandling
  • Forbedre konvergenshastigheden under træning af generative modeller

Code Example

1
2
3

import torch.nn as nn
relu = nn.ReLU()
output = relu(input_tensor)

Related