[논문 리뷰] Optimal transport and information geometry

Ting‐Kam Leonard Wong, Jiaowen Yang|arXiv (Cornell University)|2019. 05. 31.

Markov Chains and Monte Carlo Methods인용 수 3

한 줄 요약

이 논문은 케임과 맥카너의 의사 리만 기하학적 프레임워크가 $c$-divergence를 통해 고전적 정보 기하학의 이중 구조를 코딩함으로써 최적 운반과 정보 기하학 사이의 깊은 연결 고리를 확립한다. MTW 텐서는 정보 기하학적 해석을 가지며, 의사 리만 형식을 통해 정규 분산을 통합적으로 다루며, 이는 제곱형과 $L^{(\alpha)}$-divergence를 동일한 기하학적 프레임워크 안에서 통합한다.

ABSTRACT

Optimal transport and information geometry both study geometric structures on spaces of probability distribution, and their connections have attracted more and more attention. In this paper we show that the pseudo-Riemannian framework of Kim and McCann, a geometric approach to the celebrated Ma-Trudinger-Wang condition in the regularity theory of optimal transport maps, encodes the dualistic structure in classical information geometry. This general relation is described using the natural framework of $c$-divergence, a divergence defined by an optimal transport map. As a by-product, we obtain a new information-geometric interpretation of the MTW tensor. This connection sheds light on old and new aspects of information geometry. The dually flat geometry of Bregman divergence corresponds to the quadratic cost and the pseudo-Euclidean space, and the $L^{(\alpha)}$-divergence introduced by Pal and the first author has constant sectional curvature in a sense to be made precise. We also study canonical divergences in information geometry and interpret them using the pseudo-Riemannian framework.

연구 동기 및 목표

• 케임과 맥카너가 개발한 의사 리만 기하학적 프레임워크를 사용하여 최적 운반과 정보 기하학 사이의 기하학적 다리를 구축하는 것.
• 고전적 정보 기하학의 이중 구조가 최적 운반 지도에 의해 유도되는 $c$-divergence로부터 자연스럽게 유도됨을 보여주는 것.
• 의사 리만 형식을 통해 MTW 텐서의 새로운 정보 기하학적 해석을 제공하는 것.
• 의사 리만 기하학적 프레임워크를 사용하여 정보 기하학의 정규 분산을 해석함으로써, 다양한 분산 유형을 통합하는 것.

제안 방법

• 케임과 맥카너가 개발한 의사 리만 기하학적 프레임워크를 사용하여 최적 운반의 마-트루딘저-와운(MTW) 조건을 분석한다.
• $c$-divergence를 중심 도구로 정의하고 활용하여 최적 운반 지도와 정보 기하학적 분산을 연결한다.
• 이 프레임워크에서 Bregman 분산의 이중 평탄 기하학이 제곱형 비용과 의사 유클리드 기하학에 대응함을 보여준다.
• $L^{(\alpha)}$-divergence가 팔과 제1저자에 의해 제안된 바에 따르면, 정확한 기하학적 의미에서 일정한 부분 곡률을 가짐을 보여준다.
• 운반 문제의 의사 리만 기하학적 구조에 MTW 텐서를 통합함으로써 그 기하학적 역할을 분석한다.
• 정규 분산을 정보 기하학에서의 기하학적 원천으로 드러내기 위해 이 프레임워크를 정규 분산에 적용한다.

실험 결과

연구 질문

• RQ1 최적 운반의 의사 리만 기하학적 구조가 정보 기하학의 이중 기하학을 어떻게 코딩하는가?
• RQ2 최적 운반 프레임워크 내에서 MTW 텐서의 정보 기하학적 의미는 무엇인가?
• RQ3 Bregman 분산과 $L^{(\alpha)}$-divergence는 의사 리만 기하학의 맥락에서 $c$-divergence로부터 어떻게 유도되는가?
• RQ4 정보 기하학의 정규 분산은 최적 운반과 의사 리만 기하학의 시각에서 체계적으로 해석될 수 있는가?
• RQ5 $L^{(\alpha)}$-divergence 맥락에서 일정한 부분 곡률의 기하학적 의미는 무엇인가?

주요 결과

• 케임과 맥카너의 의사 리만 기하학적 프레임워크는 $c$-divergence를 통해 고전적 정보 기하학의 이중 기하학을 자연스럽게 코딩한다.
• MTW 텐서는 이 프레임워크에서 의사 리만 운반 공간의 곡률 대상으로서 새로운 정보 기하학적 해석을 얻는다.
• Bregman 분산의 이중 평탄 기하학은 이 프레임워크에서 제곱형 비용과 의사 유클리드 기하학에 대응함을 보여준다.
• $L^{(\alpha)}$-divergence는 잘 정의된 기하학적 의미에서 일정한 부분 곡률을 가짐을 증명하였으며, 이는 기존 알려진 성질들을 일반화한다.
• 정보 기하학의 정규 분산은 의사 리만 형식을 통해 체계적으로 해석되며, 그 내재된 기하학적 기원이 드러난다.