[논문 리뷰] Plugin Estimation of Smooth Optimal Transport Maps

Tudor Manole, Sivaraman Balakrishnan외 2명|arXiv (Cornell University)|2021. 07. 26.

Markov Chains and Monte Carlo Methods인용 수 9

한 줄 요약

이 논문은 경험 측도와 비모수 밀도 추정을 사용하여 부드러운 최적 운반 지도에 대한 플러그인 추정기를 제안하며, 허더 및 부드러움 조건 하에서 최소 최대 최적 속도를 달성함을 보여준다. 주요 기여는 이러한 실용적인 추정기가 최소 최대 최적임을 증명하고, 밀도가 부드러울 경우 인구 값 중심의 제곱 워샤르스탄 거리에 대해 중심극한정리를 수립하는 것이다.

ABSTRACT

We analyze a number of natural estimators for the optimal transport map between two distributions and show that they are minimax optimal. We adopt the plugin approach: our estimators are simply optimal couplings between measures derived from our observations, appropriately extended so that they define functions on $\mathbb{R}^d$. When the underlying map is assumed to be Lipschitz, we show that computing the optimal coupling between the empirical measures, and extending it using linear smoothers, already gives a minimax optimal estimator. When the underlying map enjoys higher regularity, we show that the optimal coupling between appropriate nonparametric density estimates yields faster rates. Our work also provides new bounds on the risk of corresponding plugin estimators for the quadratic Wasserstein distance, and we show how this problem relates to that of estimating optimal transport maps using stability arguments for smooth and strongly convex Brenier potentials. As an application of our results, we derive central limit theorems for plugin estimators of the squared Wasserstein distance, which are centered at their population counterpart when the underlying distributions have sufficiently smooth densities. In contrast to known central limit theorems for empirical estimators, this result easily lends itself to statistical inference for the quadratic Wasserstein distance.

연구 동기 및 목표

• 알 수 없는 분포 간의 최적 운반 지도를 위한 실용적이고 최소 최대 최적의 추정기를 개발하기 위해.
• 부드러움 조건 하에서 경험 측도와 비모수 밀도 추정에 기반한 플러그인 추정기를 분석하기 위해.
• 밀도가 부드러울 경우 인구 값 중심의 제곱 워샤르스탄 거리에 대해 중심극한정리를 수립하기 위해.
• 최적 운반 이론에서 이론적 최소 최대 최적성과 계산적으로 실현 가능한 추정기 간의 다리를 놓기 위해.
• 브리니에르 잠재함수의 안정성 논리를 활용하여 플러그인 추정기의 제곱 워샤르스탄 거리에 대한 새로운 리스크 경계를 제공하기 위해.

제안 방법

• 플러그인 접근법을 사용: 경험 측도 또는 밀도 추정 측도 간의 최적 결합을 계산하고, 이를 선형 스무딩 기법을 통해 R^d 상의 함수로 확장한다.
• 선형 스무딩 기법을 적용하여 경험 지지에서 전체 정의역으로 최적 결합을 확장함으로써 부드러움과 함수값 추정기를 보장한다.
• 워샤르스탄 거리의 이중형식에서 추정 오차를 제어하기 위해 웨이브렛 기반 분석과 파이오카레 부등식을 활용한다.
• 강凸 브리니에르 잠재함수의 안정성 논리를 활용하여 추정 리스크를 해당 워샤르스탄 거리 추정기의 리스크와 연결한다.
• 부드러움 조건 하에서 이중 목표 함수의 渐近적 행동을 분석하여 제곱 워샤르스탄 거리에 대해 중심극한정리를 도출한다.
• 집중 불등식과 모멘트 경계를 적용하여 경험 이중 목표함수와 기대 이중 목표함수 간의 차이를 제어함으로써 수렴 분포 보장.

실험 결과

연구 질문

• RQ1 경험 측도에 기반한 플러그인 추정기는 리프시츠 정규성 조건 하에서 최적 운반 지도 추정에 대해 최소 최대 최적 속도를 달성할 수 있는가?
• RQ2 기본 운반 지도가 리프시츠보다 더 부드럽다면 (예: α-홀더 클래스에서 α > 1), 비모수 밀도 추정이 더 빠른 수렴 속도를 제공하는가?
• RQ3 밀도가 부드러울 경우, 인구 값 중심의 제곱 워샤르스탄 거리 플러그인 추정기의 중심극한정리를 수립할 수 있는가?
• RQ4 워샤르스탄 거리 추정기의 리스크는 브리니에르 잠재함수의 안정성과 어떻게 관련이 있는가?
• RQ5 선형 스무딩 기법이 운반 지도 추정에서 최소 최대 최적성을 달성하는 데 어떤 역할을 하는가?

주요 결과

• 경험 측도 간 최적 결합과 선형 스무딩을 적용한 플러그인 추정기는 운반 지도의 리프시츠 정규성 조건 하에서 최소 최대 최적 속도를 달성한다.
• 기본 지도가 더 부드러울 경우 (예: α > 1 인 α-홀더 클래스), 비모수 밀도 추정 간 최적 결합을 사용하면 더 빠른 수렴 속도를 얻는다.
• 제곱 워샤르스탄 거리에 대한 플러그인 추정기의 리스크는 유한하며, 로그 인자까지 최소 최대 하한선과 일치하는 속도로 수렴한다.
• 밀도가 충분히 부드러울 경우, 제곱 워샤르스탄 거리 플러그인 추정기의 중심극한정리가 수립된다. 이때 수렴은 인구 값 중심이다.
• 분석 결과 경험 이중 목표함수와 기대 이중 목표함수 간의 차이가 기대값에서 o(1/n) 속도로 사라지며, 이는 渐近 정규성을 보장한다.
• 웨이브렛 및 파이오카레 부등식 기법을 통해 리스크 경계를 명시적으로 유도함으로써, 리프시츠 및 고차원 부드러움 조건 하에서 운반 지도 추정에 대해 최소 최대 최적성을 달성한다.