Dylemat eksploracji i eksploatacji

term_id: explorationexploitation_dilemma

Category: training_techniques

Definition

W procesach podejmowania decyzji agenty stoją przed kompromisem: mogą wykorzystywać aktualną wiedzę, aby uzyskać najlepszą natychmiastową nagrodę, lub eksplorować nieznane opcje, aby potencjalnie znaleźć lepsze strategie długoterminowe.

Summary

Dylemat eksploracji i eksploatacji to fundamentalny problem w uczeniu przez wzmacnianie, w którym agent musi wybrać między eksploracją nowych działań w celu zebrania informacji a eksploatacją znanych działań w celu maksymalizacji nagrody.

Key Concepts

  • Maksymalizacja nagrody
  • Egzekucja epsilon-zachłanna (Epsilon-Greedy)
  • Górny granicza ufności (Upper Confidence Bound)
  • Uczenie przez wzmacnianie

Use Cases

  • Systemy rekomendacyjne decydujące, czy sugerować popularne, czy nowe pozycje
  • Testy A/B w kampaniach marketingowych
  • Przydzielanie zasobów w środowiskach dynamicznych