[논문 리뷰] Optimal transport natural gradient for statistical manifolds with continuous sample space

Yifan Chen, Wuchen Li|arXiv (Cornell University)|2018. 05. 22.

Geometric Analysis and Curvature Flows참고 문헌 47인용 수 11

한 줄 요약

이 논문은 연속된 표본 공간을 가진 파라미터 모델의 파라미터 공간으로 밀도 공간에서의 $L^2$-Wasserstein 계량텐서를 당김하여 워샤르스타인 통계다양체를 도입한다. 이는 워샤르스타인 거리 최소화 시 표준 경사하강법보다 우수한 자연 경사하강법을 가능하게 하며, 점점이 뉴턴 방법과 유사한 행동을 보인다. 이 방법은 가우시안, 혼합분포, 감마, 라플라스 분포 등에서 안정적이고 효과적임을 입증하였다.

ABSTRACT

We study the Wasserstein natural gradient in parametric statistical models with continuous sample spaces. Our approach is to pull back the $L^2$-Wasserstein metric tensor in the probability density space to a parameter space, equipping the latter with a positive definite metric tensor, under which it becomes a Riemannian manifold, named the Wasserstein statistical manifold. In general, it is not a totally geodesic sub-manifold of the density space, and therefore its geodesics will differ from the Wasserstein geodesics, except for the well-known Gaussian distribution case, a fact which can also be validated under our framework. We use the sub-manifold geometry to derive a gradient flow and natural gradient descent method in the parameter space. When parametrized densities lie in $\bR$, the induced metric tensor establishes an explicit formula. In optimization problems, we observe that the natural gradient descent outperforms the standard gradient descent when the Wasserstein distance is the objective function. In such a case, we prove that the resulting algorithm behaves similarly to the Newton method in the asymptotic regime. The proof calculates the exact Hessian formula for the Wasserstein distance, which further motivates another preconditioner for the optimization process. To the end, we present examples to illustrate the effectiveness of the natural gradient in several parametric statistical models, including the Gaussian measure, Gaussian mixture, Gamma distribution, and Laplace distribution.

연구 동기 및 목표

• 최적화 운반 이론을 사용하여 연속된 표본 공간을 가진 파라미터 모델에 대해 리만 기하학적 프레임워크를 개발한다.
• 밀도 공간에서의 $L^2$-Wasserstein 계량텐서를 파라미터 공간으로 당김하여 워샤르스타인 자연경사하강법을 정의한다.
• 유도된 계량텐서가 양의 정부호이고 결과적으로 다양체가 잘 정의되도록 하는 조건을 확립한다.
• 워샤르스타인 자연경사하강법이 워샤르스타인 거리 최소화에서 점점이 뉴턴 방법과 유사하게 행동함을 보인다.
• 가우시안 혼합분포 및 라플라스 분포를 포함한 다양한 파라미터 모델 가족에 대해 실증적으로 방법을 검증한다.

제안 방법

• 무한차원의 밀도 공간에서 유한차원의 파라미터 공간으로 $L^2$-Wasserstein 계량텐서를 당긴다.
• 타원형 편미분방정식(가정 1을 통해)을 사용하여 파라미터 공간에서의 유도된 계량텐서를 정의하고, 양의 정부호성을 보장한다.
• 일차원 표본 공간에서 계량텐서에 대한 명시적 공식을 유도하여 자연경사하강법의 해석적 계산을 가능하게 한다.
• 워샤르스타인 통계다양체 기반의 자연경사하강법 알고리즘을 구현하며, 경사하강 흐름에 대해 프wd-Euler 이산화를 사용한다.
• 워샤르스타인 자연경사하강법이 워샤르스타인 거리의 정확한 헤시안을 계산하여 점점이 뉴턴 방법과 유사하게 수렴함을 증명한다.
• 최적화 성능 향상을 위해 헤시안의 구조를 기반으로 한 프리컨dition러를 설계한다.

실험 결과

연구 질문

• RQ1 무한차원 밀도 공간에서의 $L^2$-Wasserstein 계량텐서가 일관되게 유한차원 파라미터 공간으로 당겨져 리만 다양체를 형성할 수 있는가?
• RQ2 워샤르스타인 거리 최소화 시 유도된 워샤르스타인 자연경사하강법이 표준 경사하강법보다 우수한가?
• RQ3 파라미터 공간에서 유도된 계량텐서가 양의 정부호이고 잘 정의되려면 어떤 조건이 필요한가?
• RQ4 워샤르스타인 손실 최소화의 점점적 영역에서 워샤르스타인 자연경사하강법은 뉴턴 방법과 어떻게 관련이 있는가?
• RQ5 진정한 분포가 파라미터 가정 가족 외부에 있을 경우 워샤르스타인 자연경사하강법은 안정적인가?

주요 결과

• 워샤르스타인 거리의 정확한 헤시안을 계산하여, 워샤르스타인 자연경사하강법이 워샤르스타인 거리 최소화에서 점점이 뉴턴 방법과 유사한 수렴 행동을 보임을 증명하였다.
• 잘 지정된 경우, 워샤르스타인 GD는 평균적으로 6.29회 반복만으로 평균 목표값 0.2490을 달성하며, 표준 GD(56.36회 반복)보다 뚜렷이 뛰어나다.
• 최대우도추정(MLE)에서는 피셔-레오 자연경사하강법이 표준 GD와 워샤르스타인 GD를 모두 능가함을 보여, 기하학적 특성에 따라 최적화 성능가 달라짐을 시사한다.
• 모델가정 불일치의 경우(Laplace 목표, 가우시안 혼합모델), 워샤르스타인 GD는 워샤르스타인 손실 최소화에 있어 여전히 효율적(평균 반복 수: 6.29)이며, 피셔-레오 GD는 MLE에 있어 뛰어남(평균 반복 수: 4.24).
• 다양한 파라미터 가정 가족과 기저 진실 분포를 대상으로 한 여러 실험을 통해 모델 불일치에 대해 안정적임을 입증하였다.
• 일차원 표본 공간에서 계량텐서에 대한 명시적 공식을 유도하여 해석적 계산과 이론적 분석이 가능해졌다.