Aktivaatiofunktio

term_id: activation_function

Category: basic_concepts

Definition

Aktivaatiofunktio tuo ei-lineaarisuutta neuroverkkoon, mikä mahdollistaa monimutkaisten kuvioiden ja suhteiden oppimisen datassa. Ilman näitä funktioita monikerroksinen verkko käyttäytyisi…

Summary

Matemaattinen yhtälö, joka määrittää neuroverkon solun tuloksen sen syöttösignaalin perusteella.

Key Concepts

  • Ei-lineaarisuus
  • Gradienttiveto
  • Neuronin aktivaatio
  • Takaisinpropagaatio

Use Cases

  • Syvien neuroverkkojen mahdollistaminen kuvien luokitteluun
  • Luonnollisen kielen käsittelytehtävien tukeminen
  • Generatiivisten mallien koulutusnopeuden parantaminen

Code Example

1
2
3

import torch.nn as nn
relu = nn.ReLU()
output = relu(input_tensor)

Related