Feed-Forward Network

term_id: feed_forward_network

Category: basic_concepts

Definition

Feed-Forward Networks (FFN’s), ook wel Multi-Layer Perceptrons (MLP’s) genoemd, verwerken data sequentieel door lagen van neuronen van invoer naar uitvoer zonder feedbacklussen. Elke neuron ontvangt invoeren, past een gewogen som toe en passeert deze door een activatiefunctie naar de volgende laag.

Summary

Een klasse van kunstmatige neurale netwerken waarbij verbindingen tussen knooppunten geen cycli vormen en informatie in één richting wordt voortgeplant.

Key Concepts

  • Geen cycli
  • Lagen (Invoer, Verborgen, Uitvoer)
  • Activatiefuncties
  • Gewogen sommen

Use Cases

  • Eenvoudige regressietaken
  • Classificatieproblemen met tabeldata
  • Bouwstenen voor diepere architecturen

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import torch.nn as nn

class SimpleFFN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleFFN, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        x = self.fc1(x)
        x = self.relu(x)
        x = self.fc2(x)
        return x

Related