[論文レビュー] Projection based dimensionality reduction for measure valued evolution equations in statistical manifolds

Damiano Brigo, Giovanni Pistone|arXiv (Cornell University)|Jan 16, 2016

Statistical Mechanics and Entropy参考文献 17被引用数 4

ひとこと要約

本稿では、Fokker-Planck方程式やフィルタリング方程式などの無限次元測度値進化方程式に対して、指数型統計多様体における射影を用いた次元削減手法を提案する。後退拡散作用素の固有関数によって定義される有限次元の指数型および混合型族へ射影することで、Fisher-Rao計量と整合的であり、最尤推定器を導く。これにより、幾何的に整合性のある収束性を持つ、複雑な確率的ダイナミクスの近似が可能になる。

ABSTRACT

We propose a dimensionality reduction method for infinite-dimensional measure-valued evolution equations such as the Fokker-Planck partial differential equation or the Kushner-Stratonovich resp. Duncan-Mortensen-Zakai stochastic partial differential equations of nonlinear filtering, with potential applications to signal processing, quantitative finance, heat flows and quantum theory among many other areas. Our method is based on the projection coming from a duality argument built in the exponential statistical manifold structure developed by G. Pistone and co-authors. The choice of the finite dimensional manifold on which one should project the infinite dimensional equation is crucial, and we propose finite dimensional exponential and mixture families. This same problem had been studied, especially in the context of nonlinear filtering, by D. Brigo and co-authors but the $L^2$ structure on the space of square roots of densities or of densities themselves was used, without taking an infinite dimensional manifold environment space for the equation to be projected. Here we re-examine such works from the exponential statistical manifold point of view, which allows for a deeper geometric understanding of the manifold structures at play. We also show that the projection in the exponential manifold structure is consistent with the Fisher Rao metric and, in case of finite dimensional exponential families, with the assumed density approximation. Further, we show that if the sufficient statistics of the finite dimensional exponential family are chosen among the eigenfunctions of the backward diffusion operator then the statistical-manifold or Fisher-Rao projection provides the maximum likelihood estimator for the Fokker Planck equation solution. We finally try to clarify how the finite dimensional and infinite dimensional terminology for exponential and mixture spaces are related.

研究の動機と目的

• 無限次元測度値進化方程式に対する幾何的に整合性のある次元削減手法の開発。
• 従来の$L^2$-ベースの射影の限界を克服するため、無限次元指数型統計多様体フレームワークに問題を埋め込むこと。
• Fokker-Planck解に対する統計多様体射影と最尤推定の整合性を確立すること。
• 情報幾何における有限次元および無限次元の指数型および混合型族の関係を明確化すること。
• 多様体次元を増加させた際の有限次元近似の収束性を調査すること。

提案手法

• Pistoneらが開発した指数型統計多様体構造を用い、確率密度の空間を非パラメトリックかつ無限次元リーマン多様体に埋め込む。
• 双対性に基づく射影を用い、指数型および混合型族によって定義される有限次元部分多様体へ無限次元多様体から射影する。
• 後退拡散作用素$\mathcal{L}$の固有関数から導かれる十分統計量を用いて有限次元近似を構築する。
• 統計多様体上のFisher-Rao計量と整合するように射影を整えることで、幾何的整合性を確保する。
• 収束性および近似の品質を解析するために、Orlicz空間およびSobolev型の議論を用いる。
• $L^2$直接計量射影と統計多様体フレームワークの関係を明らかにし、混合型族近似におけるその役割を明確化する。

実験結果

リサーチクエスチョン

• RQ1 無限次元測度値進化方程式を有限次元指数型族へ射影することは、指数型統計多様体フレームワーク内で幾何的に整合的に行えるか。
• RQ2 後退拡散作用素$\mathcal{L}$の固有関数を指数型族の十分統計量として選ぶと、Fokker-Planck方程式解に対する最尤推定器が得られるか。
• RQ3 統計多様体射影は、先行研究で用いられた$L^2$直接計量射影とどのように関係するか。
• RQ4 多様体次元を増加させた際、有限次元近似が真の無限次元解に収束する条件は何か。
• RQ5 このフレームワークは、粗いパスによって駆動される進化方程式に拡張可能か。また、異なる最適性の概念は射影にどのように影響するか。

主な発見

• 指数多様体構造における射影は、Fisher-Rao計量と整合的であり、近似プロセスにおける幾何的忠実性を保証する。
• 指数型族の十分統計量を作用素$\mathcal{L}$の固有関数として選ぶと、統計多様体射影はFokker-Planck方程式解に対する最尤推定器を導く。
• 固有関数統計量に基づく有限次元近似は、より多くの固有関数を含めることで精度を体系的に向上させる手法を提供する。
• この手法により、従来の$L^2$-ベースのアプローチを無限次元統計多様体フレームワークに埋め込むことで、より深い幾何的洞察が得られる。
• 適切な十分統計量の列、特にSobolev空間において基底をなす場合に、有限次元近似が真の解に収束すると予想される。
• このフレームワークにより、有限次元および無限次元の指数型および混合型族の関係が明確になり、文脈による用語の曖昧さが解消される。