[论文解读] A trajectorial interpretation of the dissipations of entropy and Fisher information for stochastic differential equations

Joaquín Fontbona, Benjamin Jourdain|arXiv (Cornell University)|Jul 17, 2011

Stochastic processes and financial applications参考文献 16被引用 27

一句话总结

本文基于随机微积分，为非平衡扩散过程中的一般凸熵提供了轨迹式、随机过程的熵与费雪信息耗散解释。通过使用 Girsanov 理论与 Doob-Meyer 分解，推导出熵耗散公式的随机类比，并提出一种新颖的、非内在定义的 Bakry-Émery 准则——该准则依赖于扩散矩阵的平方根——即使在经典准则失效时，也能确保 U-熵指数收敛至零。

ABSTRACT

The dissipation of general convex entropies for continuous time Markov processes can be described in terms of backward martingales with respect to the tail filtration. The relative entropy is the expected value of a backward submartingale. In the case of (non necessarily reversible) Markov diffusion processes, we use Girsanov theory to explicit the Doob-Meyer decomposition of this submartingale. We deduce a stochastic analogue of the well known entropy dissipation formula, which is valid for general convex entropies, including the total variation distance. Under additional regularity assumptions, and using It\\^o's calculus and ideas of Arnold, Carlen and Ju \\cite{Arnoldcarlenju}, we obtain moreover a new Bakry Emery criterion which ensures exponential convergence of the entropy to $0$. This criterion is non-intrisic since it depends on the square root of the diffusion matrix, and cannot be written only in terms of the diffusion matrix itself. We provide examples where the classic Bakry Emery criterion fails, but our non-intrisic criterion applies without modifying the law of the diffusion process.

研究动机与目标

• 为连续时间马尔可夫扩散过程中的熵与费雪信息耗散提供一种轨迹式解释。
• 将经典的熵耗散公式推广至所有凸熵，包括总变差与卡方距离。
• 提出一种新的、非内在定义的 Bakry-Émery 准则，以确保 U-熵指数收敛至零。
• 证明该新准则在经典 Bakry-Émery 准则失效的情况下依然适用，且不改变扩散过程的分布。
• 通过引入一个包含权重函数 α 的联合混合准则，统一并比较现有准则。

提出的方法

• 对由 U(dPs/dQs(XQs)) 构成的反向次鞅应用 Doob-Meyer 分解，推导出随机熵耗散公式。
• 利用 Girsanov 理论，显式计算时变扩散下该次鞅的有限变差部分与局部鞅部分。
• 运用 Itô 微积分与生成元的分解，将 U-费雪信息的耗散表达为扩散矩阵 a = σσ* 的平方根 σ 的函数。
• 推导出一种新型 Bakry-Émery 类准则，其依赖于 σ 而非仅 a，因此为非内在定义。
• 通过引入一个 C1 函数 α 对新准则与经典准则进行加权，构造联合准则，其中导数项源于分部积分。
• 通过恢复并对比 Arnold, Carlen, 和 Ju (2001) 的结果，验证该方法的有效性，强调时间反演与非平衡性的作用。

实验结果

研究问题

• RQ1 是否可通过轨迹式随机微积分方法，将熵耗散公式推广至所有凸熵（包括总变差）？
• RQ2 如何将 U-费雪信息的耗散表达为扩散矩阵平方根而非矩阵本身的形式？
• RQ3 在何种条件下，该新非内在定义的 Bakry-Émery 准则能确保 U-熵指数收敛至零？
• RQ4 在经典 Bakry-Émery 准则失效时，该新准则在不改变扩散过程分布的前提下，适用于哪些情形？
• RQ5 如何将新准则与经典准则结合，以获得更稳健的收敛条件？

主要发现

• 本文为所有 U ∈ C2(R+) 的一般凸熵建立了熵耗散公式的随机类比，包括 U(x) = x ln x、(x−1)² 与 |x−1|。
• 证明了 U-费雪信息的耗散等于一个非负半鞅的期望值，其漂移部分通过 Girsanov 与 Itô 微积分显式计算得出。
• 推导出一种新的非内在定义的 Bakry-Émery 准则，其依赖于扩散矩阵 a 的平方根 σ，可确保 U-熵指数收敛至零。
• 该准则严格弱于经典准则：存在经典准则不成立但新准则成立的例子，且扩散过程的分布保持不变。
• 通过引入 C1 权重函数 α 的联合准则，可在经典准则与新准则之间实现插值，收敛速率取决于 α 的导数。
• 该方法恢复并重新诠释了 Arnold, Carlen, 与 Ju (2001) 的结果，表明其矩阵 Y11 是内在的，而新项 Γ11 不是，揭示了底层假设的根本差异。