Rychlost / Měrná veličina

term_id: rate

Category: basic_concepts

Definition

V AI se termín ‘rate’ nejčastěji vztahuje na rychlost učení, což je hyperparametr, který určuje, o kolik má být model upraven v reakci na odhadovanou chybu při každé aktualizaci vah modelu. Rychlost

Summary

Měření frekvence nebo rychlosti, běžně odkazující na rychlosti učení v optimalizaci nebo rychlosti generování tokenů.

Key Concepts

  • Learning Rate (Rychlost učení)
  • Optimization (Optimalizace)
  • Throughput (Průchodnost)
  • Hyperparameter (Hyperparametr)

Use Cases

  • Ladění optimalizace gradientového sestupu
  • Sledování limitů využití API
  • Měření latence inferenčního zpracování

Code Example

1

optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

Related