Rată

term_id: rate

Category: basic_concepts

Definition

În IA, „rată” se referă cel mai frecvent la rata de învățare, un hiperparametru care controlează cât de mult se modifică modelul în răspuns la eroarea estimată de fiecare dată când ponderile modelului sunt actualizate. O rată

Summary

O măsurătoare a frecvenței sau vitezei, referindu-se comun la ratele de învățare în optimizare sau vitezele de generare a tokenilor.

Key Concepts

  • Learning Rate (Rata de învățare)
  • Optimization (Optimizare)
  • Throughput (Randament)
  • Hyperparameter (Hiperparametru)

Use Cases

  • Reglarea optimizării prin descendentul gradientului
  • Monitorizarea limitelor de utilizare a API-ului
  • Măsurarea latenței de inferență

Code Example

1
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)