Softmax

term_id: softmax

Category: basic_concepts

Definition

Softmax bruges bredt i outputlaget af neurale netværk til opgaver med klassificering af flere klasser. Den tager en vektor af rå logit-værdier og normaliserer dem, så hvert element repræsenterer en sandsynlighed for den pågældende klasse.

Summary

En matematisk funktion, der konverterer en vektor af vilkårlige reelle værdier til en sandsynlighedsfordeling.

Key Concepts

  • Sandsynlighedsfordeling
  • Logits
  • Normalisering
  • Klassificering af flere klasser

Use Cases

  • Outputlag til billedklassificering
  • Token-prediktion i sprogmodeller
  • Kategorisering med flere etiketter

Code Example

1
2
3
4
5

import torch
import torch.nn.functional as F
logits = torch.tensor([1.0, 2.0, 3.0])
probs = F.softmax(logits, dim=0)
print(probs)

Related