Дилемма исследования и эксплуатации

term_id: explorationexploitation_dilemma

Category: training_techniques

Definition

В процессах принятия решений агенты сталкиваются с компромиссом: они могут использовать текущие знания для получения наилучшей немедленной награды или исследовать неизвестные варианты, чтобы потенциально найти лучшие долгосрочные стратегии.

Summary

Дилемма исследования и эксплуатации — это фундаментальная проблема в обучении с подкреплением, при которой агент должен выбирать между исследованием новых действий для сбора информации и эксплуатацией известных действий для максимизации награды.

Key Concepts

  • Максимизация награды
  • Эпсилон-жадный алгоритм
  • Верхняя доверительная граница
  • Обучение с подкреплением

Use Cases

  • Рекомендательные системы, решающие, предлагать ли популярные товары или новые
  • A/B-тестирование в маркетинговых кампаниях
  • Распределение ресурсов в динамических средах