[논문 리뷰] Limit Distributions and Sensitivity Analysis for Entropic Optimal Transport on Countable Spaces

Shayan Hundrieser, Marcel Klatt외 1명|arXiv (Cornell University)|2021. 04. 30.

Geometric Analysis and Curvature Flows참고 문헌 48인용 수 4

한 줄 요약

이 논문은 가чёт한 공간에서의 경험적 엔트로픽 최적 운반의 극한 분포를 수립하며, 운반 계획이 중심화된 가우시안 과정으로 약한 수렴하고 최적 값이 점점 정규분포에 수렴함을 증명한다. 분석은 이중 공식화와 최적성 조건을 통한 민감도 분석에 기반하여, 기저 비용과 엔트로픽 페널티에 연결된 가중치를 가진 가중치 부여된 Borisov-Dudley-Durst 조건을 도출한다.

ABSTRACT

For probability measures supported on countable spaces we derive limit distributions for empirical entropic optimal transport quantities. In particular, we prove that the corresponding plan converges weakly to a centered Gaussian process. Furthermore, its optimal value is shown to be asymptotically normal. The results are valid for a large class of ground cost functions and generalize recently obtained limit laws for empirical entropic optimal transport quantities on finite spaces. Our proofs are based on a sensitivity analysis with respect to a weighted $\ell^1ehBnorm relying on the dual formulation of entropic optimal transport as well as necessary and sufficient optimality conditions for the entropic transport plan. This can be used to derive weak convergence of the empirical entropic optimal transport plan and value that results in weighted Borisov-Dudley-Durst conditions on the underlying probability measures. The weights are linked to an exponential penalty term for dual entropic optimal transport and the underlying ground cost function under consideration. Finally, statistical applications, such as bootstrap, are discussed.

연구 동기 및 목표

• 유한 상태 공간에서의 경험적 엔트로픽 최적 운반에 대한 극한 법칙을 유한한 공간에서 가чёт한 상태 공간으로 확장하기.
• 경험적 엔트로픽 운반 계획이 중심화된 가우시안 과정으로 약한 수렴함을 확립하기.
• 일반적인 기저 비용 함수 하에서 경험적 최적 운반 값의 점점 정규분포에 수렴함을 증명하기.
• 가중치 부여된 ℓ¹ 노름과 이중 공식화를 사용한 민감도 분석 프레임워크 개발하기.
• 수렴 조건—가중치 부여된 Borisov-Dudley-Durst—을 도출하여, 이 조건들이 기저 비용과 엔트로픽 페널티와 연결됨을 규명하기.

제안 방법

• 엔트로픽 최적 운반의 이중 공식화를 활용하여 경험적 측도에 대한 민감도를 분석한다.
• 엔트로픽 운반 계획의 필수 및 충분 조건을 적용하여 수렴 행동을 도출한다.
• 지수 페널티 항과 기저 비용 함수에서 유도된 가중치를 가진 가중치 부여된 ℓ¹ 노름을 사용한다.
• Borisov-Dudley-Durst에 유사한 조건을 확인하여 경험적 운반 계획의 약한 수렴을 확립한다.
• 동일한 민감도 프레임워크와 이중 구조를 사용하여 최적 값의 점점 정규분포를 도출한다.
• 유도된 극한 법칙을 바탕으로 부트스트랩 추론과 같은 통계적 응용을 논의한다.

실험 결과

연구 질문

• RQ1 경험적 엔트로픽 최적 운반 계획은 가чёт한 무한한 공간에서 점점 어떻게 행동하는가?
• RQ2 가чёт한 설정에서 경험적 최적 운반 값의 극한 분포는 무엇인가?
• RQ3 가중치 부여된 ℓ¹ 노름을 사용한 민감도 분석을 통해 엔트로픽 OT의 수렴 조건을 유도할 수 있는가?
• RQ4 수렴 조건의 가중치는 기저 비용과 엔트로픽 정규화와 어떻게 관련되는가?
• RQ5 유도된 극한 법칙은 부트스트랩 절차와 같은 통계적 추론에 어떤 영향을 미치는가?

주요 결과

• 경험적 엔트로픽 운반 계획은 가чёт한 공간에서 중심화된 가우시안 과정으로 약하게 수렴한다.
• 일반적인 기저 비용 함수 하에서 경험적 최적 운반 값은 점점 정규분포에 수렴한다.
• 수렴은 기저 비용과 엔트로픽 페널티에서 유도된 가중치를 가진 가중치 부여된 Borisov-Dudley-Durst 조건에 의해 지배된다.
• 민감도 분석 프레임워크는 엔트로픽 최적 운반의 이중 공식화와 최적성 조건에 기반한다.
• 결과는 이전의 유한 공간 극한 법칙을 가чёт한 경우로 일반화한다.
• 유도된 점점 정규분포성과 수렴 구조 덕분에 통계적 응용, 예를 들어 부트스트랩이 가능하다.