Nopeus / Ope

term_id: rate

Category: basic_concepts

Definition

Tekoälyssä ‘rate’ viittaa useimmiten oppimisnopeuteen (learning rate), joka on hyperparametri, joka kontrolloi, kuinka paljon mallia muutetaan arvioidun virheen perusteella jokaisen painopäivityksen yhteydessä. Liian suuri tai pieni oppimisnopeus voi vaikuttaa merkittävästi mallin konvergenssiin.

Summary

Taajuuden tai nopeuden mittaus, viittaa yleisesti oppimisnopeuteen optimoinnissa tai tokenien generointinopeuteen.

Key Concepts

  • Oppimisnopeus
  • Optimointi
  • Läpäisykyky (Throughput)
  • Hyperparametri

Use Cases

  • Gradienttivajennuksen optimoinnin säätäminen
  • API-käyttörajojen seuranta
  • Päättelylatenssin mittaaminen

Code Example

1

optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

Related