Tỷ lệ

term_id: rate

Category: basic_concepts

Definition

Trong AI, ’tỷ lệ’ thường đề cập nhất đến tỷ lệ học (learning rate), một siêu tham số kiểm soát mức độ thay đổi của mô hình dựa trên lỗi ước tính mỗi khi trọng số mô hình được cập nhật. Tỷ lệ học phù hợp là rất quan trọng để đảm bảo mô hình hội tụ nhanh chóng mà không bị dao động.

Summary

Đo lường tần suất hoặc tốc độ, thường đề cập đến tỷ lệ học trong tối ưu hóa hoặc tốc độ tạo mã thông báo.

Key Concepts

  • Tỷ lệ học
  • Tối ưu hóa
  • Thông lượng
  • Siêu tham số

Use Cases

  • Điều chỉnh tối ưu hóa gradient descent
  • Giám sát giới hạn sử dụng API
  • Đo lường độ trễ suy luận

Code Example

1

optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

Related