[논문 리뷰] Asymptotics of smoothed Wasserstein distances

Hongbin Chen, Jonathan Niles‐Weed|arXiv (Cornell University)|2020. 05. 02.

Geometric Analysis and Curvature Flows참고 문헌 33인용 수 4

한 줄 요약

이 논문은 열린 유클리드 공간에서 가우시안 컨볼루션(열기구 반응)에 의한 매끄러운 워샤어스타인 거리에 대해 날카운 다항수 수렴 속도를 확립한다. 첫 번째 $ n $개의 모멘트가 일치하지만 $(n+1)$-번째 모멘트가 다를 경우, $2$-워샤어스타인 거리 $W_2^2(\mu*\rho_t, \nu*\rho_t)$ 는 $\Theta(t^{-n})$ 의 속도로 감소하며, 양의 한계 상수를 갖는다. 이 결과는 $p$-워샤어스타인 거리, $\chi^2$ 발산, 상대 엔트로피, 총변동 거리 등으로 확장되며, 모두 모멘트 일치 조건 하에서 동일한 다항수 수렴 속도를 갖는다.

ABSTRACT

We investigate contraction of the Wasserstein distances on $\mathbb{R}^d$ under Gaussian smoothing. It is well known that the heat semigroup is exponentially contractive with respect to the Wasserstein distances on manifolds of positive curvature; however, on flat Euclidean space---where the heat semigroup corresponds to smoothing the measures by Gaussian convolution---the situation is more subtle. We prove precise asymptotics for the $2$-Wasserstein distance under the action of the Euclidean heat semigroup, and show that, in contrast to the positively curved case, the contraction rate is always polynomial, with exponent depending on the moment sequences of the measures. We establish similar results for the $p$-Wasserstein distances for $p eq 2$ as well as the $χ^2$ divergence, relative entropy, and total variation distance. Together, these results establish the central role of moment matching arguments in the analysis of measures smoothed by Gaussian convolution.

연구 동기 및 목표

• 평탄한 유클리드 공간에서 가우시안 스무딩 하에 워샤어스타인 거리의 점근적 행동을 규명하기 위해, 0 곡률로 인해 지수 수렴이 실패하는 상황을 다루는 것.
• 시간 $ t \to \infty $ 일 때 $W_2(\mu*\rho_t, \nu*\rho_t) \to 0$ 가 되는 조건과 그 수렴 속도를 규명하는 것.
• 가우시안 스무딩 하에서 여러 불일치 측도—워샤어스타인, $\chi^2$, 상대 엔트로피, 총변동—의 점근적 행동을 통합하는 것.
• 수렴 속도가 지수적이 아니라 다항수임을 입증하고, 이는 최대 $n$차 모멘트까지의 일치에 의해 완전히 결정됨을 보장하는 것.
• $p=2$를 초월해 일반적인 $p$-워샤어스타인 거리에 대해 분석을 확장하고, 동일한 점근적 수렴 속도를 유도하는 것.

제안 방법

• 매끄러운 측도 $\mu*\rho_t$ 와 $\nu*\rho_t$ 의 차이를 분석하기 위해 헤르미트 다항식 전개와 직교 분해를 사용하는 것.
• 열기구 반응을 가우시안 커널 $\rho_t(x) = (2\pi t)^{-d/2} e^{-|x|^2/(2t)}$ 와의 컨볼루션으로 적용하는 것.
• 모멘트 조건에 기반해 밀도 차이의 테일러 전개를 차수 $n+1$ 까지 수행함으로써 점근적 전개를 유도하는 것.
• 표준 가우시안 측도 $\mathfrak{g}$ 에 대한 $L^2(\mathfrak{g})$ 내적을 사용해 헤르미트 함수 위에 투영하는 것.
• 전개에서 나머지 항의 도함수에 대한 추정을 통해 매끄러운 밀도 차이의 균일한 리프시츠 유계성을 확보하는 것.
• 모멘트 일치와 직교성에 기반해 핵심 항등식 $\int H_\alpha(\Theta_t - Q) d\mathfrak{g} = 0$ 를 $\alpha \in [n+1]$ 에 대해 증명함으로써 점근 해석의 주요 항을 도출하는 것.

실험 결과

연구 질문

• RQ1 시간 $ t \to \infty $ 일 때 $W_2(\mu*\rho_t, \nu*\rho_t)$ 가 수렴하는 조건은 무엇인가요?
• RQ2 만약 $\mu$ 와 $\nu$ 가 첫 번째 $n$개의 모멘트를 일치하지만 $(n+1)$-번째 모멘트가 다를 경우, $W_2(\mu*\rho_t, \nu*\rho_t)$ 의 정확한 수렴 속도는 무엇인가요?
• RQ3 다른 불일치 측도—예를 들어 $\chi^2$ 발산, 상대 엔트로피, 총변동—은 워샤어스타인 거리와 동일한 다항수 수렴 속도로 감소하는가요?
• RQ4 동일한 모멘트 일치 조건 하에서, $p \neq 2$ 인 $p$-워샤어스타인 거리의 점근적 행동은 $p=2$ 경우와 어떻게 비교될 수 있나요?
• RQ5 점근 전개에서 $t^n W_2^2(\mu*\rho_t, \nu*\rho_t)$ 의 한계 상수는 닫힌 형태로 표현 가능한가요?

주요 결과

• 만약 $\mu$ 와 $\nu$ 의 첫 번째 $n$개의 모멘트가 일치하지만 $(n+1)$-번째 모멘트가 다를 경우, $t \to \infty$ 일 때 $W_2^2(\mu*\rho_t, \nu*\rho_t) = \Theta(t^{-n})$ 임을 보여준다.
• 스케일링 한계 $\lim_{t \to \infty} t^n W_2^2(\mu*\rho_t, \nu*\rho_t)$ 는 존재하며, 양의 상수 $c_{\mu,\nu} > 0$ 로서, $\mu$ 와 $\nu$ 의 $(n+1)$-번째 모멘트에 명시적으로 의존한다.
• 동일한 상수 $c_{\mu,\nu}$ 는 $\mu*\rho_t$ 와 $\nu*\rho_t$ 간의 $\chi^2$ 발산과 상대 엔트로피의 점근적 행동을 결정하며, 상수 배수를 제외하고는 동일하다.
• $p \in [1, \infty)$ 에 대해 $p$-워샤어스타인 거리의 경우 수렴 속도는 $\Theta(t^{-n/2})$ 이며, $p=2$ 경우와 일치한다. 이때 $\liminf_{t \to \infty} t^{n/2} W_p(\mu*\rho_t, \nu*\rho_t) > 0$ 이고 $\limsup < \infty$ 이다.
• 총변동 거리 역시 $\Theta(t^{-n/2})$ 의 속도로 감소하지만, 워샤어스타인 거리와는 다른 한계 상수를 갖는다.
• 분석된 모든 불일치 측도—워샤어스타인, $\chi^2$, 상대 엔트로피, 총변동—은 동일한 모멘트 일치 조건 하에서 동일한 다항수 수렴 속도를 보이며, 이는 그들의 점근적 행동에 깊은 통합을 제공한다.