线性

term_id: linear

Category: basic_concepts

Definition

线性运算涉及乘法和加法，不包含非线性激活。在神经网络中，线性层（或密集层）对输入向量应用权重矩阵变换。虽然线

Summary

描述输出与输入成正比的操作或关系，构成神经层仿射变换的基础。

Key Concepts

  • 权重矩阵
  • 仿射变换
  • 点积
  • 叠加原理

Use Cases

  • 特征投影
  • 逻辑回归
  • 注意力机制

Code Example

1
2
3

import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)

Related