[論文レビュー] Wasserstein Stability of the Entropy Power Inequality for Log-Concave Densities

Thomas A. Courtade, Max Fathi+1 more|arXiv (Cornell University)|Oct 25, 2016

Markov Chains and Monte Carlo Methods参考文献 32被引用数 11

ひとこと要約

この論文は、最適輸送理論を用いて、一様に対数凸性を持つ密度関数の文脈において、エントロピー量の不等式（EPI）の定量的安定性評価を確立する。EPIの欠落が小さい場合、元の測度は2次 Wasserstein 距離において次元に依存しない境界を用いてガウス分布に近いことを示している。主な貢献は、EPIの欠落に対する次元に依存しない下界をガウス分布への Wasserstein 距離の観点から得ることであり、対数凸性のもとで近似的に等号が成立するならば、ガウス分布に近い分布であることを証明している。

ABSTRACT

We establish quantitative stability results for the entropy power inequality (EPI). Specifically, we show that if uniformly log-concave densities nearly saturate the EPI, then they must be close to Gaussian densities in the quadratic Wasserstein distance. Further, if one of the densities is log-concave and the other is Gaussian, then the deficit in the EPI can be controlled in terms of the $L^1$-Wasserstein distance. As a counterpoint, an example shows that the EPI can be unstable with respect to the quadratic Wasserstein distance when densities are uniformly log-concave on sets of measure arbitrarily close to one. Our stability results can be extended to non-log-concave densities, provided certain regularity conditions are met. The proofs are based on optimal transportation.

研究の動機と目的

• 密度関数が一様に対数凸性を示す場合に、次元に依存しない定量的安定性評価をエントロピー量の不等式（EPI）に対して確立すること。
• EPIの近似的な等号が成立する場合、それが2次 Wasserstein 距離においてガウス測度に近いことを示すこと。
• 正則性条件が満たされない場合の安定性の失敗を、反例を用いて分析すること。
• 適切な正則性条件のもとで、非対数凸性密度関数に対しても安定性結果を拡張すること。
• 一方の測度がガウス分布である場合に、$L^1$-Wasserstein 距離を用いた欠落評価を提供すること。

提案手法

• 証明は、特に Brenier 写像および対数凸測度におけるその性質を用いた最適輸送理論に依存している。
• 著者たちは、ガウス分布への近さを測る指標として2次 Wasserstein 距離 $W_2$ を用いている。
• ガウス分布のターゲット $ olimits \gamma_1, \gamma_2$ に対して、EPI 欠落 $\delta_{\mathsf{EPI},t}(\mu,\nu)$ の下界を $W_2^2(\mu,\gamma_1) + W_2^2(\nu,\gamma_2) + W_2^2(\gamma_1,\gamma_2)$ の関数として導出している。
• 輸送写像の制御のため、Bakry-Émery 条件およびポテンシャルの強い凸性を用いた解析を行っている。
• 径対称化のため、測度を対称化し、1次元の推定を用いて輸送写像の微分を評価している。
• 輸送写像の微分の成長を制御するため、Cheeger 型の不等式およびガウス分布の尾部推定を適用している。

実験結果

リサーチクエスチョン

• RQ1 EPI の近似的な等号が成立する場合、それが Wasserstein 距離においてガウス分布に近いことを示す条件は何か？
• RQ2 EPI 欠落は、ガウス分布への Wasserstein 距離の関数として下から抑えられるか？その下界は次元に依存しないか？
• RQ3 密度関数が一様に対数凸性を示す場合、EPI は2次 Wasserstein 距離において安定か？その正則性が欠落した場合にはどうなるか？
• RQ4 追加の正則性仮定のもとで、非対数凸性密度関数に対しても安定性評価を拡張できるか？
• RQ5 一方の測度がガウス分布である場合、$L^1$-Wasserstein 距離が EPI 欠落を制御する役割を果たすか？

主な発見

• あるガウス分布 $ olimits \gamma_1, \gamma_2$ に対して、EPI 欠落は $\delta_{\mathsf{EPI},t}(\mu,\nu) \geq \frac{t(1-t)}{2} \left( W_2^2(\mu,\gamma_1) + W_2^2(\nu,\gamma_2) + W_2^2(\gamma_1,\gamma_2) \right)$ を満たし、次元に依存しない安定性境界を与える。
• もし $\mu$ と $\nu$ が一様に対数凸性を示し、EPI をほぼ満たしているならば、それぞれが $W_2$ 距離においてあるガウス分布に近いことになる。
• 一方の測度がガウス分布で、もう一方が対数凸性を示す場合、EPI 欠落は $L^1$-Wasserstein 距離によって制御可能である。
• 反例により、測度が測度が1に近い集合上で対数凸性を示すが、一様な凸性が欠落している場合、EPI は $W_2$ 距離において安定でないことが示された。
• 適切な正則性条件（例えばポテンシャルの強い凸性）のもとで、安定性結果は非対数凸性密度関数へも拡張可能である。
• 証明技法は、最適輸送写像および径対称化とガウス分布の尾部境界を用いた輸送写像の微分に関する推定に依存している。