Lineær

term_id: linear

Category: basic_concepts

Definition

Lineære operationer involverer multiplikation og addition uden ikke-lineære aktiveringer. I neurale netværk anvender lineære lag (eller tætte lag) en vægtmatrixtransformation på inputvektorer. Selvom lin

Summary

Beskriver operationer eller relationer, hvor outputtet er direkte proportionalt med inputtet, hvilket danner grundlaget for affine transformationer i neurale lag.

Key Concepts

  • Vægtmatrix
  • Affin transformation
  • Priprodukt (Dot product)
  • Superposition

Use Cases

  • Funktionprojektion
  • Logistisk regression
  • Opmærksomhedsmekanismer (Attention mechanisms)

Code Example

1
2
3

import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)

Related