Szoftmax

term_id: softmax

Category: basic_concepts

Definition

A szoftmax széles körben használatos a neurális hálózatok kimeneti rétegében többosztályos besorolási feladatoknál. Egy nyers logitokból álló vektort vesz fel, és normalizálja őket úgy, hogy minden elem egy valószínűséget jelöljön.

Summary

Egy matematikai függvény, amely tetszőleges valós értékű pontszámok vektorát valószínűségi eloszlássá alakítja.

Key Concepts

  • Valószínűségi eloszlás
  • Logitok
  • Normalizálás
  • Többosztályos besorolás

Use Cases

  • Képosztályozó kimeneti rétegek
  • Nyelvi modellek token-előrejelzése
  • Többcímkés kategorizálás

Code Example

1
2
3
4
5

import torch
import torch.nn.functional as F
logits = torch.tensor([1.0, 2.0, 3.0])
probs = F.softmax(logits, dim=0)
print(probs)

Related