Lineair

term_id: linear

Category: basic_concepts

Definition

Lineaire bewerkingen omvatten vermenigvuldiging en optelling zonder niet-lineaire activeringen. In neurale netwerken passen lineaire lagen (of dichte lagen) een gewichtsmatrixtransformatie toe op invoervectoren. Hoewel lineaire…

Summary

Beschrijft bewerkingen of relaties waarbij de uitvoer recht evenredig is met de invoer, wat de basis vormt voor affiene transformaties in neurale lagen.

Key Concepts

  • Gewichtsmatrix
  • Affiene transformatie
  • Dot product (Inwendig product)
  • Superpositie

Use Cases

  • Functieprojectie
  • Logistische regressie
  • Attention-mechanismen

Code Example

1
2
3
import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)