Lineær

term_id: linear

Category: basic_concepts

Definition

Lineære operasjoner involverer multiplikasjon og addisjon uten ikke-lineære aktiveringer. I nevrale nettverk anvender lineære lag (eller tette lag) en vektmatrisetransformasjon på input-vektorer. Selv om lin

Summary

Beskriver operasjoner eller relasjoner der output er direkte proporsjonal med input, og danner grunnlaget for affine transformasjoner i nevrale lag.

Key Concepts

  • Vektmatrise
  • Affin transformasjon
  • Prikkprodukt
  • Superposisjon

Use Cases

  • Fremstillingsprojeksjon
  • Logistisk regresjon
  • Oppmerksomhetsmekanismer

Code Example

1
2
3
import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)