Tuyến tính

term_id: linear

Category: basic_concepts

Definition

Các phép toán tuyến tính bao gồm phép nhân và cộng mà không có hàm kích hoạt phi tuyến. Trong mạng nơ-ron, các lớp tuyến tính (hoặc lớp dày đặc) áp dụng phép biến đổi ma trận trọng số lên các vector đầu vào. Mặc dù các lớp

Summary

Mô tả các phép toán hoặc mối quan hệ mà đầu ra tỉ lệ thuận trực tiếp với đầu vào, tạo nền tảng cho các phép biến đổi affine trong các lớp nơ-ron.

Key Concepts

  • Ma trận Trọng số
  • Biến đổi Affine
  • Tích vô hướng
  • Siêu vị trí

Use Cases

  • Chiếu đặc trưng
  • Hồi quy Logistic
  • Cơ chế Attention

Code Example

1
2
3

import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)

Related