[论文解读] Projection based dimensionality reduction for measure valued evolution equations in statistical manifolds

Damiano Brigo, Giovanni Pistone|arXiv (Cornell University)|Jan 16, 2016

Statistical Mechanics and Entropy参考文献 17被引用 4

一句话总结

本文提出了一种针对无限维测度值演化方程（如福克-普朗克方程和滤波方程）的降维方法，通过在指数统计流形上进行投影实现。通过将投影限制在基于后向扩散算子特征函数定义的有限维指数族和混合族上，该方法确保了与费雪-罗信息度量的一致性，并产生最大似然估计器，从而实现几何上合理且收敛的复杂随机动力学近似。

ABSTRACT

We propose a dimensionality reduction method for infinite-dimensional measure-valued evolution equations such as the Fokker-Planck partial differential equation or the Kushner-Stratonovich resp. Duncan-Mortensen-Zakai stochastic partial differential equations of nonlinear filtering, with potential applications to signal processing, quantitative finance, heat flows and quantum theory among many other areas. Our method is based on the projection coming from a duality argument built in the exponential statistical manifold structure developed by G. Pistone and co-authors. The choice of the finite dimensional manifold on which one should project the infinite dimensional equation is crucial, and we propose finite dimensional exponential and mixture families. This same problem had been studied, especially in the context of nonlinear filtering, by D. Brigo and co-authors but the $L^2$ structure on the space of square roots of densities or of densities themselves was used, without taking an infinite dimensional manifold environment space for the equation to be projected. Here we re-examine such works from the exponential statistical manifold point of view, which allows for a deeper geometric understanding of the manifold structures at play. We also show that the projection in the exponential manifold structure is consistent with the Fisher Rao metric and, in case of finite dimensional exponential families, with the assumed density approximation. Further, we show that if the sufficient statistics of the finite dimensional exponential family are chosen among the eigenfunctions of the backward diffusion operator then the statistical-manifold or Fisher-Rao projection provides the maximum likelihood estimator for the Fokker Planck equation solution. We finally try to clarify how the finite dimensional and infinite dimensional terminology for exponential and mixture spaces are related.

研究动机与目标

• 开发一种针对无限维测度值演化方程的几何上合理的降维方法。
• 通过将问题嵌入无限维指数统计流形框架，解决以往基于 $L^2$ 的投影方法的局限性。
• 建立统计流形投影与福克-普朗克方程解的最大似然估计之间的一致性。
• 阐明信息几何中有限维与无限维指数族和混合族之间的关系。
• 探讨当流形维度增加时，有限维近似向真实无限维解收敛的条件。

提出的方法

• 利用皮斯通内等人提出的指数统计流形结构，将概率密度空间嵌入到非参数、无限维黎曼流形中。
• 基于对偶性，将无限维流形投影到由指数族和混合族定义的有限维子流形上。
• 通过后向扩散算子 $\mathcal{L}$ 的特征函数导出的充分统计量构造有限维近似。
• 通过与统计流形上的费雪-罗度量对齐，确保投影的几何一致性。
• 采用奥尔利奇空间和索博列夫型论证方法，分析收敛性与近似质量。
• 将 $L^2$ 直接度量投影与统计流形框架相关联，阐明其在混合族近似中的作用。

实验结果

研究问题

• RQ1 能否在指数统计流形框架内，使无限维测度值演化方程向有限维指数族的投影在几何上保持一致？
• RQ2 当指数族的充分统计量被选为后向扩散算子 $\mathcal{L}$ 的特征函数时，是否能获得福克-普朗克方程解的最大似然估计器？
• RQ3 统计流形投影与先前工作中使用的 $L^2$ 直接度量投影之间有何关系？
• RQ4 当流形维度增加时，有限维近似在何种条件下会收敛到真实的无限维解？
• RQ5 该框架能否扩展以处理由粗糙路径驱动的演化方程？不同最优性概念如何影响投影结果？

主要发现

• 在指数流形结构中的投影与费雪-罗度量一致，确保了近似过程中的几何保真性。
• 当指数族的充分统计量被选为算子 $\mathcal{L}$ 的特征函数时，统计流形投影可产生福克-普朗克方程解的最大似然估计器。
• 基于特征函数统计量的有限维近似提供了一种系统性提升精度的方法，通过引入更多特征函数实现。
• 该方法通过将先前的 $L^2$ 方法嵌入无限维统计流形框架，深化了对这些方法的几何理解。
• 在充分统计量序列满足适当条件（特别是其构成索博列夫空间中的基）时，有限维近似收敛到真实解的猜想成立。
• 该框架澄清了有限维与无限维指数族和混合族之间的关系，解决了不同语境下术语使用的模糊性。