Linear

term_id: linear

Category: basic_concepts

Definition

Lineare Operationen umfassen Multiplikation und Addition ohne nichtlineare Aktivierungen. In neuronalen Netzen wenden lineare Schichten (oder dichte Schichten) eine Gewichtsmatrix-Transformation auf Eingabevektoren an. Während lineare…

Summary

Beschreibt Operationen oder Beziehungen, bei denen die Ausgabe direkt proportional zur Eingabe ist und die Grundlage affiner Transformationen in neuronalen Schichten bildet.

Key Concepts

  • Gewichtsmatrix
  • Affine Transformation
  • Skalarprodukt
  • Superposition

Use Cases

  • Merkmalsprojektion
  • Logistische Regression
  • Aufmerksamkeitsmechanismen

Code Example

1
2
3

import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)

Related