Sats

term_id: rate

Category: basic_concepts

Definition

Inden for AI refererer ‘rate’ oftest til læringsraten, en hyperparameter, der styrer, hvor meget modellen skal ændres som svar på den estimerede fejl hver gang modelvægtene opdateres. En rat

Summary

Et mål for frekvens eller hastighed, der ofte refererer til læringsrater i optimering eller hastigheden af token-generering.

Key Concepts

  • Læringsrate
  • Optimering
  • Gennemstrømning (Throughput)
  • Hyperparameter

Use Cases

  • Justering af gradientnedstigningsoptimering
  • Overvågning af API-brugsgrænser
  • Måling af inferenslatens

Code Example

1

optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

Related