Sieć feed-forward

term_id: feed_forward_network

Category: basic_concepts

Definition

Sieci feed-forward (FFN), znane również jako wielowarstwowe perceptrony (MLP), przetwarzają dane sekwencyjnie przez warstwy neuronów od wejścia do wyjścia bez pętli sprzężenia zwrotnego. Każdy neuron otrzymuje wejścia, stosuje wagę, sumuje je i przekazuje wynik przez funkcję aktywacji do następnej warstwy, co umożliwia modelowanie nieliniowych zależności.

Summary

Klasa sztucznej sieci neuronowej, w której połączenia między węzłami nie tworzą cykli, propagując informację w jednym kierunku.

Key Concepts

  • Brak cykli
  • Warstwy (Wejściowa, Ukryta, Wyjściowa)
  • Funkcje aktywacji
  • Sumy ważone

Use Cases

  • Proste zadania regresji
  • Problemy klasyfikacji z danymi tabelarycznymi
  • Elementy budulcowe głębszych architektur

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import torch.nn as nn

class SimpleFFN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleFFN, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        x = self.fc1(x)
        x = self.relu(x)
        x = self.fc2(x)
        return x

Related