Linéaire

term_id: linear

Category: basic_concepts

Definition

Les opérations linéaires impliquent une multiplication et une addition sans activations non linéaires. Dans les réseaux neuronaux, les couches linéaires (ou denses) appliquent une transformation par matrice de poids aux vecteurs d’entrée. Bien que les

Summary

Décrit les opérations ou relations où la sortie est directement proportionnelle à l’entrée, formant la base des transformations affines dans les couches neurales.

Key Concepts

  • Matrice de poids
  • Transformation affine
  • Produit scalaire
  • Superposition

Use Cases

  • Projection de caractéristiques
  • Régression logistique
  • Mécanismes d’attention

Code Example

1
2
3

import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)

Related