Lineární

term_id: linear

Category: basic_concepts

Definition

Lineární operace zahrnují násobení a sčítání bez nelineárních aktivačních funkcí. V neuronových sítích lineární vrstvy (nebo husté vrstvy) aplikují transformaci váhovou maticí na vstupní vektory. Zatímco lineární

Summary

Popisuje operace nebo vztahy, kde je výstup přímo úměrný vstupu, což tvoří základ afinních transformací v neuronových vrstvách.

Key Concepts

  • Váhová matice
  • Afinní transformace
  • Skalární součin
  • Superpozice

Use Cases

  • Projekce znaků
  • Logistická regrese
  • Mechanismy pozornosti

Code Example

1
2
3
import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)