Softmax

term_id: softmax

Category: basic_concepts

Definition

Softmax brukes mye i utlagret av nevrale nettverk for flerklasses klassifiseringsoppgaver. Den tar en vektor med rå logitter og normaliserer dem slik at hvert element representerer en sannsynlighet for at klassen er riktig.

Summary

En matematisk funksjon som konverterer en vektor med vilkårlige reelle verdier til en sannsynlighetsfordeling.

Key Concepts

  • Sannsynlighetsfordeling
  • Logitter
  • Normalisering
  • Flerklasses klassifisering

Use Cases

  • Utgangslag for bildeklassifisering
  • Tokenprediksjon i språkmodeller
  • Multiklasse-kategorisering

Code Example

1
2
3
4
5

import torch
import torch.nn.functional as F
logits = torch.tensor([1.0, 2.0, 3.0])
probs = F.softmax(logits, dim=0)
print(probs)

Related