線形

term_id: linear

Category: basic_concepts

Definition

線形操作には、非線形活性化関数を伴わない乗算と加算が含まれます。ニューラルネットワークでは、線形レイヤー（または密結合層）が入力ベクトルに重み行列変換を適用します。線形操作のみでは

Summary

出力が入力に直接比例する操作や関係を示し、ニューラルレイヤーのアフィン変換の基礎を形成する。

Key Concepts

  • 重み行列
  • アフィン変換
  • ドット積
  • 重ね合わせ

Use Cases

  • 特徴量投影
  • ロジスティック回帰
  • アテンション機構

Code Example

1
2
3

import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)

Related