Feed-Forward Network

term_id: feed_forward_network

Category: basic_concepts

Definition

Feed-Forward Networks (FFNs), còn được gọi là Multi-Layer Perceptrons (MLP), xử lý dữ liệu tuần tự qua các lớp nơ-ron từ đầu vào đến đầu ra mà không có vòng phản hồi. Mỗi nơ-ron nhận các đầu vào…

Summary

Một lớp mạng nơ-ron nhân tạo trong đó các kết nối giữa các nút không tạo thành chu trình, lan truyền thông tin theo một hướng.

Key Concepts

  • Không có chu trình
  • Các lớp (Đầu vào, Ẩn, Đầu ra)
  • Hàm kích hoạt
  • Tổng trọng số

Use Cases

  • Các bài toán hồi quy đơn giản
  • Bài toán phân loại với dữ liệu dạng bảng
  • Khối xây dựng cho các kiến trúc sâu hơn

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import torch.nn as nn

class SimpleFFN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleFFN, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        x = self.fc1(x)
        x = self.relu(x)
        x = self.fc2(x)
        return x

Related