Скорость / Ставка (Rate)

term_id: rate

Category: basic_concepts

Definition

В ИИ термин «rate» чаще всего относится к скорости обучения — гиперпараметру, который контролирует величину изменения модели в ответ на оцененную ошибку при каждом обновлении весов модели. Высокая скорость

Summary

Показатель частоты или скорости, чаще всего относящийся к скорости обучения в оптимизации или скорости генерации токенов.

Key Concepts

  • Скорость обучения (Learning Rate)
  • Оптимизация (Optimization)
  • Пропускная способность (Throughput)
  • Гиперпараметр (Hyperparameter)

Use Cases

  • Настройка оптимизации градиентного спуска
  • Мониторинг ограничений использования API
  • Измерение задержки вывода (инференса)

Code Example

1

optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

Related