Softmax

term_id: softmax

Category: basic_concepts

Definition

O Softmax é amplamente utilizado na camada de saída de redes neurais para tarefas de classificação multiclasse. Ele recebe um vetor de logins brutos e os normaliza para que cada elemento represente uma probabilidade de

Summary

Uma função matemática que converte um vetor de pontuações reais arbitrárias em uma distribuição de probabilidade.

Key Concepts

  • Distribuição de Probabilidade
  • Logits
  • Normalização
  • Classificação Multiclasse

Use Cases

  • Camadas de saída de classificação de imagens
  • Predição de tokens em modelos de linguagem
  • Categorização multirótulo

Code Example

1
2
3
4
5

import torch
import torch.nn.functional as F
logits = torch.tensor([1.0, 2.0, 3.0])
probs = F.softmax(logits, dim=0)
print(probs)

Related