Nghịch lý khám phá - khai thác

term_id: explorationexploitation_dilemma

Category: training_techniques

Definition

Trong các quá trình ra quyết định, các tác nhân đối mặt với sự đánh đổi: họ có thể khai thác kiến thức hiện tại để nhận phần thưởng tức thời tốt nhất, hoặc khám phá các tùy chọn chưa biết để tìm kiếm các chiến lược dài hạn tốt hơn.

Summary

Nghịch lý khám phá-khai thác là một vấn đề cơ bản trong học tăng cường, nơi một tác nhân phải lựa chọn giữa việc khám phá các hành động mới để thu thập thông tin và khai thác các hành động đã biết để tối đa hóa phần thưởng.

Key Concepts

  • Tối đa hóa phần thưởng
  • Epsilon-Greedy (Tham lam epsilon)
  • Upper Confidence Bound (Cận trên tin cậy)
  • Học tăng cường

Use Cases

  • Hệ thống gợi ý quyết định giữa việc đề xuất các mục phổ biến hay mới lạ
  • Kiểm tra A/B trong các chiến dịch tiếp thị
  • Phân bổ tài nguyên trong môi trường động