Feed-Forward Network

term_id: feed_forward_network

Category: basic_concepts

Definition

Feed-Forward Networks (FFN’er), også kendt som Multi-Layer Perceptrons (MLP’er), behandler data sekventielt gennem lag af neuroner fra input til output uden feedback-løkker. Hver neuron modtager input

Summary

En klasse af kunstige neurale netværk, hvor forbindelserne mellem noder ikke danner cyklusser, men spreder information i én retning.

Key Concepts

  • Ingen cyklusser
  • Lag (Input, Skjult, Output)
  • Aktiveringsfunktioner
  • Vægtede summer

Use Cases

  • Enkle regressionsopgaver
  • Klassificeringsproblemer med tabeldata
  • Byggeklodser til dybere arkitekturer

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import torch.nn as nn

class SimpleFFN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleFFN, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        x = self.fc1(x)
        x = self.relu(x)
        x = self.fc2(x)
        return x

Related