Rate

term_id: rate

Category: basic_concepts

Definition

Innan AI refererer ‘rate’ oftest til læringsraten, en hyperparameter som kontrollerer hvor mye modellen skal endres som respons på estimert feil hver gang modellvektene oppdateres. En rat

Summary

Et mål på frekvens eller hastighet, vanligvis refererende til læringsrater i optimering eller hastigheter for token-generering.

Key Concepts

  • Læringsrate
  • Optimering
  • Throughput (Gjennomstrømning)
  • Hyperparameter

Use Cases

  • Tuning av gradientnedstigningsoptimering
  • Overvåking av API-bruksgrenser
  • Måling av inferenslatens

Code Example

1

optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

Related