Softmax

term_id: softmax

Category: basic_concepts

Definition

Softmax se utiliza ampliamente en la capa de salida de las redes neuronales para tareas de clasificación multiclase. Toma un vector de logit sin procesar y los normaliza de modo que cada elemento represente una probabilidad de pertenecer a esa clase.

Summary

Una función matemática que convierte un vector de puntuaciones reales arbitrarias en una distribución de probabilidad.

Key Concepts

  • Distribución de Probabilidad
  • Logit
  • Normalización
  • Clasificación Multiclase

Use Cases

  • Capas de salida de clasificación de imágenes
  • Predicción de tokens en modelos de lenguaje
  • Categorización multietiqueta

Code Example

1
2
3
4
5

import torch
import torch.nn.functional as F
logits = torch.tensor([1.0, 2.0, 3.0])
probs = F.softmax(logits, dim=0)
print(probs)

Related