Tasso

term_id: rate

Category: basic_concepts

Definition

Nell’IA, ‘rate’ si riferisce più frequentemente al tasso di apprendimento, un iperparametro che controlla quanto modificare il modello in risposta all’errore stimato ogni volta che i pesi del modello vengono aggiornati. Un tasso

Summary

Una misura di frequenza o velocità, comunemente riferita ai tassi di apprendimento nell’ottimizzazione o alle velocità di generazione dei token.

Key Concepts

  • Learning Rate (Tasso di apprendimento)
  • Ottimizzazione
  • Throughput (Produttività/Resa)
  • Hyperparameter (Iperparametro)

Use Cases

  • Ottimizzazione della discesa del gradiente
  • Monitoraggio dei limiti di utilizzo delle API
  • Misurazione della latenza di inferenza

Code Example

1

optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

Related