[論文レビュー] Asymptotics of smoothed Wasserstein distances

Hongbin Chen, Jonathan Niles‐Weed|arXiv (Cornell University)|May 2, 2020

Geometric Analysis and Curvature Flows参考文献 33被引用数 4

ひとこと要約

本稿は、ヒート半群（ガウス型畳み込み）における $\mathbb{R}^d$ 上の滑らかなウォサージェン距離に対して鋭い多項式的収縮率を確立する。$\mu$ と $\nu$ の最初の $n$ 階モーメントが一致するが $(n+1)$ 階モーメントが異なる場合、$2$-ウォサージェン距離 $W_2^2(\mu*\rho_t, \nu*\rho_t)$ は $t \to \infty$ のとき $\Theta(t^{-n})$ の速度で減少し、正の極限定数をとる。この結果は $p$-ウォサージェン距離、$\chi^2$ 発散、相対エントロピー、全 Variation に対しても拡張可能であり、すべてが同じ多項式的レートを示す。

ABSTRACT

We investigate contraction of the Wasserstein distances on $\mathbb{R}^d$ under Gaussian smoothing. It is well known that the heat semigroup is exponentially contractive with respect to the Wasserstein distances on manifolds of positive curvature; however, on flat Euclidean space---where the heat semigroup corresponds to smoothing the measures by Gaussian convolution---the situation is more subtle. We prove precise asymptotics for the $2$-Wasserstein distance under the action of the Euclidean heat semigroup, and show that, in contrast to the positively curved case, the contraction rate is always polynomial, with exponent depending on the moment sequences of the measures. We establish similar results for the $p$-Wasserstein distances for $p eq 2$ as well as the $χ^2$ divergence, relative entropy, and total variation distance. Together, these results establish the central role of moment matching arguments in the analysis of measures smoothed by Gaussian convolution.

研究の動機と目的

• 平坦なユークリッド空間上でのガウス平滑化におけるウォサージェン距離の漸近的挙動を解明すること。零曲率のため指数的収縮が成立しない背景にある。
• $t \to \infty$ のとき $W_2(\mu*\rho_t, \nu*\rho_t) \to 0$ となる条件とその収縮速度を特定すること。
• ガウス平滑化下での複数の乖離測度（ウォサージェン、$\chi^2$、相対エントロピー、全 Variation）の漸近的挙動を統一すること。
• 収縮レートが指数的ではなく多項式的であり、かつ $n$ 階までのモーメントマッチングによって完全に決定されることを確立すること。
• $p=2$ にとどまらず、一般の $p$-ウォサージェン距離に対しても分析を拡張し、一致する漸近的レートを導出すること。

提案手法

• 滑らかな測度 $\mu*\rho_t$ と $\nu*\rho_t$ の差を分析するためのエルミート多項式展開と直交分解の使用。
• ガウス核 $\rho_t(x) = (2\pi t)^{-d/2} e^{-|x|^2/(2t)}$ との畳み込みとしてヒート半群を適用する。
• 密度差の $n+1$ 階までのテイラー展開を用いた漸近展開の導出。この展開はモーメント条件に依存する。
• 標準ガウス測度 $\mathfrak{g}$ に関する $L^2(\mathfrak{g})$ 内積を用いて、エルミート関数への射影を実行する。
• 展開における剰余項の導関数に関する推定を用いて、滑らか化密度の差に対する一様リプシッツバウンドを確立する。
• モーメントマッチングと直交性を用いて、$\alpha \in [n+1]$ に対して $\int H_\alpha(\Theta_t - Q) d\mathfrak{g} = 0$ であることを証明し、漸近展開における主要項を導出する。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で $t \to \infty$ のとき $W_2(\mu*\rho_t, \nu*\rho_t)$ が $0$ に収束するか？
• RQ2 $\mu$ と $\nu$ が最初の $n$ 階モーメントを共有するが $(n+1)$ 階モーメントが異なる場合、$W_2(\mu*\rho_t, \nu*\rho_t)$ の正確な減衰速度は何か？
• RQ3 他の乖離測度（$\chi^2$ 発散、相対エントロピー、全 Variation）もウォサージェン距離と同様の多項式的レートで減衰するか？
• RQ4 同じモーメントマッチング条件下で、$p \neq 2$ の $p$-ウォサージェン距離の漸近的挙動は $p=2$ の場合とどのように異なるか？
• RQ5 漸近展開における $t^n W_2^2(\mu*\rho_t, \nu*\rho_t)$ の極限定数は閉形式で表現可能か？

主な発見

• 最初の $n$ 階モーメントが一致するが $(n+1)$ 階モーメントが異なる場合、$t \to \infty$ のとき $W_2^2(\mu*\rho_t, \nu*\rho_t) = \Theta(t^{-n})$ となる。
• スケーリングされた極限 $\lim_{t \to \infty} t^n W_2^2(\mu*\rho_t, \nu*\rho_t)$ は存在し、正の定数 $c_{\mu,\nu} > 0$ となる。この定数は $\mu$ と $\nu$ の $(n+1)$ 階モーメントに明示的に依存する。
• 同じ定数 $c_{\mu,\nu}$ が、$\mu*\rho_t$ と $\nu*\rho_t$ 間の $\chi^2$ 発散と相対エントロピーの漸近的挙動を定義づけ、定数倍の違いを除いて一致する。
• すべての $p \in [1, \infty)$ に対して $p$-ウォサージェン距離について、減衰レートは $\Theta(t^{-n/2})$ であり、$p=2$ の場合と一致する。$\liminf_{t \to \infty} t^{n/2} W_p(\mu*\rho_t, \nu*\rho_t) > 0$ かつ $\limsup < \infty$ が成り立つ。
• 全 Variation 距離も $\Theta(t^{-n/2})$ の速度で減衰するが、ウォサージェン距離とは異なる極限定数をとる。
• 解析されたすべての乖離測度（ウォサージェン、$\chi^2$、相対エントロピー、全 Variation）は、同じモーメントマッチング条件下で同一の多項式的減衰レートを示し、それらの漸近的挙動に深い統一性が存在することを確立した。