Feed-Forward Network

term_id: feed_forward_network

Category: basic_concepts

Definition

Feed-Forward Networks (FFNs), auch als Multi-Layer-Perzeptron (MLP) bekannt, verarbeiten Daten sequenziell durch Schichten von Neuronen vom Eingang zum Ausgang ohne Rückkopplungsschleifen. Jedes Neuron empfängt Eingaben, wendet eine gewichtete Summe an und leitet das Ergebnis durch eine Aktivierungsfunktion weiter, um nichtlineare Probleme zu lösen.

Summary

Eine Klasse künstlicher neuronaler Netze, bei denen die Verbindungen zwischen Knoten keine Zyklen bilden und Informationen in eine Richtung fließen.

Key Concepts

  • Keine Zyklen
  • Schichten (Eingang, Verborgen, Ausgang)
  • Aktivierungsfunktionen
  • Gewichtete Summen

Use Cases

  • Einfache Regressionsaufgaben
  • Klassifizierungsprobleme mit tabellarischen Daten
  • Bausteine für tiefere Architekturen

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import torch.nn as nn

class SimpleFFN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleFFN, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        x = self.fc1(x)
        x = self.relu(x)
        x = self.fc2(x)
        return x

Related