Erwartungspropagation

term_id: expectation_propagation

Category: basic_concepts

Definition

Die Erwartungspropagation (EP) approximiert nicht handhabbare Integrale, indem sie iterativ Gaußsche Approximationen an die wahre Posterior-Verteilung verfeinert. Sie minimiert die Kullback-Leibler-Divergenz zwischen der approximativen und der wahren Verteilung, oft unter der Annahme, dass die Approximation in der Familie der Gaußschen Verteilungen liegt.

Summary

Ein approximativer Inferenzalgorithmus, der zur Schätzung von Posterior-Verteilungen in komplexen probabilistischen graphischen Modellen verwendet wird.

Key Concepts

  • Posterior-Approximation
  • Momentenanpassung
  • Kullback-Leibler-Divergenz
  • Gaußsche Prozesse

Use Cases

  • Sparse Gaußsche Prozesse
  • Bayessche logistische Regression
  • Probabilistische Matrixfaktorisierung