Taux

term_id: rate

Category: basic_concepts

Definition

En IA, le terme ’taux’ fait le plus souvent référence au taux d’apprentissage, un hyperparamètre qui contrôle dans quelle mesure le modèle doit être modifié en réponse à l’erreur estimée chaque fois que les poids du modèle sont mis à jour. Un taux

Summary

Une mesure de fréquence ou de vitesse, faisant couramment référence aux taux d’apprentissage dans l’optimisation ou aux vitesses de génération de tokens.

Key Concepts

  • Taux d’apprentissage
  • Optimisation
  • Débit
  • Hyperparamètre

Use Cases

  • Réglage de l’optimisation par descente de gradient
  • Surveillance des limites d’utilisation de l’API
  • Mesure de la latence d’inférence

Code Example

1
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)