Prediktiv tilstandsrepresentasjon

term_id: predictive_state_representation

Category: basic_concepts

Definition

Prediktive tilstandsrepresentasjoner (PSR) utvider tradisjonelle delvis observerbare Markov-beslutningsprosesser ved å definere tilstander som vektorer av forutsigelser om fremtidige observerbare hendelser. I stedet for å stole på skjulte tilstander som i POMDP, bruker PSR lineære kombinasjoner av sannsynlighetsfordelinger for fremtidige observasjoner gitt tidligere handlinger og observasjoner.

Summary

En latent tilstandsformulering i forsterkningslæring som forutser fremtidige observasjoner basert på handlingshistorikk.

Key Concepts

  • Delvis observerbarhet
  • Fremtidige forutsigelser
  • Historikkbaserte tilstander
  • Forsterkningslæring

Use Cases

  • Robotikk i rotete miljøer
  • Spill-AI med skjult informasjon
  • Prognose for finansmarkeder