term_id: rate

Category: basic_concepts

Definition

在AI中,“率”最常指学习率,这是一个超参数,控制每次更新模型权重时,根据估计误差对模型进行调整的幅度。一个适……

Summary

频率或速度的度量,通常指优化中的学习率或令牌生成速度。

Key Concepts

  • 学习率
  • 优化
  • 吞吐量
  • 超参数

Use Cases

  • 调整梯度下降优化
  • 监控API使用限制
  • 测量推理延迟

Code Example

1
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)