Takt / Hastighet

term_id: rate

Category: basic_concepts

Definition

Inom AI avser ‘rate’ oftast inlärningstakten, en hyperparameter som styr hur mycket modellen ska ändras i respons på det uppskattade felet varje gång modellvikterna uppdateras. En rat

Summary

En mätning av frekvens eller hastighet, vanligtvis syftande på inlärningstakter inom optimering eller hastigheten för token-generering.

Key Concepts

  • Inlärningstakt
  • Optimering
  • Genomströmning
  • Hyperparameter

Use Cases

  • Justering av gradientnedgångsoptimering
  • Övervakning av API-användningsgränser
  • Mätning av inferenslatens

Code Example

1
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)