Линейный

term_id: linear

Category: basic_concepts

Definition

Линейные операции включают умножение и сложение без нелинейных функций активации. В нейронных сетях линейные слои (или плотные слои) применяют преобразование матрицы весов к входным векторам. Хотя линейные

Summary

Описывает операции или отношения, где выход прямо пропорционален входу, составляя основу аффинных преобразований в нейронных слоях.

Key Concepts

  • Матрица весов
  • Аффинное преобразование
  • Скалярное произведение
  • Суперпозиция

Use Cases

  • Проекция признаков
  • Логистическая регрессия
  • Механизмы внимания

Code Example

1
2
3

import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)

Related