Softmax
term_id: softmax
Category: basic_concepts
Definition
O Softmax é amplamente utilizado na camada de saída de redes neurais para tarefas de classificação multiclasse. Ele recebe um vetor de logins brutos e os normaliza para que cada elemento represente uma probabilidade de
Summary
Uma função matemática que converte um vetor de pontuações reais arbitrárias em uma distribuição de probabilidade.
Key Concepts
- Distribuição de Probabilidade
- Logits
- Normalização
- Classificação Multiclasse
Use Cases
- Camadas de saída de classificação de imagens
- Predição de tokens em modelos de linguagem
- Categorização multirótulo
Code Example
import torch
import torch.nn.functional as F
logits = torch.tensor([1.0, 2.0, 3.0])
probs = F.softmax(logits, dim=0)
print(probs)