קצב

term_id: rate

Category: basic_concepts

Definition

בבינה מלאכותית, ‘קצב’ מתייחס לרוב לקצב הלמידה, פרמטר-על השולט בכמה יש לשנות את המודל כתגובה לשגיאה המשוערת בכל פעם שהמשקולות של המודל מתעדכנות. קצב

Summary

מדידה של תדירות או מהירות, המתייחסת בדרך כלל לקצבי למידה באופטימיזציה או למהירויות יצירת טוקנים.

Key Concepts

  • קצב למידה
  • אופטימיזציה
  • תפוקה (Throughput)
  • פרמטר-על (Hyperparameter)

Use Cases

  • כוונון אופטימיזציה של ירידת גרדיאנט
  • ניטור מגבלות שימוש ב-API
  • מדידת זמן אחזור (Latency) בהסקה

Code Example

1
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)