[논문 리뷰] Entropic and displacement interpolation: a computational approach using the Hilbert metric

Yongxin Chen, Tryphon T. Georgiou외 1명|arXiv (Cornell University)|2015. 06. 13.

Geometric Analysis and Curvature Flows참고 문헌 24인용 수 7

한 줄 요약

이 논문은 최적 운반(OMT)과 슈뢰딩거 다리 문제를 해결하기 위한 계산 프레임워크를 제시하며, 힐버트 거리(metric)를 사용하여 수렴성이 보장되고 효율적인 수치적 해법을 가능하게 한다. 이는 재해석된 자미슨 정리의 새로운 증명을 제공하며, 확률 밀도를 보간하기 위한 빠르고 수렴하는 알고리즘을 제공한다. 이미지 모르피즘 응용에서 성공적으로 구현되었다.

ABSTRACT

Monge-Kantorovich optimal mass transport (OMT) provides a blueprint for geometries in the space of positive densities -- it quantifies the cost of transporting a mass distribution into another. In particular, it provides natural options for interpolation of distributions (displacement interpolation) and for modeling flows. As such it has been the cornerstone of recent developments in physics, probability theory, image processing, time-series analysis, and several other fields. In spite of extensive work and theoretical developments, the computation of OMT for large scale problems has remained a challenging task. An alternative framework for interpolating distributions, rooted in statistical mechanics and large deviations, is that of Schroedinger bridges (entropic interpolation). This may be seen as a stochastic regularization of OMT and can be cast as the stochastic control problem of steering the probability density of the state-vector of a dynamical system between two marginals. In this approach, however, the actual computation of flows had hardly received any attention. In recent work on Schroedinger bridges for Markov chains and quantum evolutions, we noted that the solution can be efficiently obtained from the fixed-point of a map which is contractive in the Hilbert metric. Thus, the purpose of this paper is to show that a similar approach can be taken in the context of diffusion processes which i) leads to a new proof of a classical result on Schroedinger bridges and ii) provides an efficient computational scheme for both, Schroedinger bridges and OMT. We illustrate this new computational approach by obtaining interpolation of densities in representative examples such as interpolation of images.

연구 동기 및 목표

• 고차원 환경에서 최적 운반(OMT) 및 슈뢰딩거 다리 문제를 효율적으로 해결하기 위한 계산 방법을 개발하는 것.
• 힐버트 거리, 수축 사상, 확산 과정에 대한 슈뢰딩거 시스템 해법 간의 연결 고리를 설정하는 것.
• 슈뢰딩거 시스템의 해가 존재하고 유일함을 보여주는 잼슨의 고전적 결과에 대한 새로운 구성적 증명을 제공하는 것.
• 이미지 모르피즘 등의 응용을 위해 엔트로피 보간 및 이동 거리 보간을 실용적으로 계산할 수 있도록 하는 것.
• 힐버트 거리 기반의 공통 계산 원리를 통해 OMT와 슈뢰딩거 다리의 기하학적 프레임워크를 통합하는 것.

제안 방법

• 해결 방법은 힐버트 거리에서 수축적인 성질을 갖는 사상에 기반한 고정점 반복을 사용하여 슈뢰딩거 다리 문제의 해로 수렴함을 보장한다.
• 슈뢰딩거 다리 문제의 해는 확률 측도 위에 작용하는 비선형 연산자의 유일한 고정점으로 유도된다.
• 힐버트 거리를 사용하여 반복 사상의 수축 성질을 확립함으로써 전역 수렴을 보장한다.
• 이 방법은 슈뢰딩거 다리와 OMT 간의 이중성에 기반하여, OMT가 슈뢰딩거 다리 프레임워크의 소음 제로 근처에서의 극한으로 나타남을 보여준다.
• 알고리즘은 힐버트 거리 수축을 통한 조건부 반복 업데이트를 통해 구현되며, 약한 수렴성 및 타이트니스 논증을 통해 수렴성이 증명된다.
• 이 방법은 픽셀 강도를 확률 밀도로 간주하고 엔트로피 보간을 계산하는 방식으로 이미지 보간에 적용된다.

실험 결과

연구 질문

• RQ1 힐버트 거리를 사용하여 확산 과정의 슈뢰딩거 다리 문제를 해결하기 위한 수렴성 보장되고 계산 효율성이 높은 알고리즘을 구성할 수 있는가?
• RQ2 소음이 점점 줄어드는 극한에서 슈뢰딩거 다리 프레임워크는 최적 운반과 어떻게 관련이 있는가?
• RQ3 힐버트 거리는 슈뢰딩거 시스템의 해의 수축성과 유일성 보장에 어떤 역할을 하는가?
• RQ4 힐버트 거리 기반의 고정점 반복은 실용적 응용 예로서 이미지 모를피즘에서 엔트로피 보간 및 이동 거리 보간을 계산하는 데 사용될 수 있는가?
• RQ5 힐버트 거리 프레임워크를 사용하여 잼슨의 정리에 대한 존재성 및 유일성에 대한 새로운 구성적 증명이 가능한가?

주요 결과

• 힐버트 거리 기반의 고정점 반복은 확산 과정의 슈뢰딩거 다리 문제에 대해 전역적으로 수렴하며, 유일한 해를 도출한다.
• 이 방법은 슈뢰딩거 시스템의 해가 존재하고 유일함을 보여주는 잼슨의 고전적 결과에 대한 새로운 구성적 증명을 제공한다.
• 슈뢰딩거 다리 문제의 해는 소음이 0이 되는 극한에서 OMT의 이동 거리 보간으로 수렴함을 보여주며, 두 프레임워크 간의 계산적 연결 고리를 확립한다.
• 알고리즘은 빠른 수렴성과 수치적 안정성을 확보하며, 부드럽고 시각적으로 타당한 보간 결과를 보여주는 이미지 모를피즘 응용에서 성공적으로 적용되었다.
• 힐버트 거리 수축은 반복 사상이 엄격히 수축적임을 보장하여, 초기 조건에 관계없이 수렴함을 보장한다.
• 이 방법은 공통 측도 π와 기준 측도 ν를 동시에 구성하며, dπ/dν = q 및 dν/dπ = 1/q를 만족한다. 여기서 ν는 곱 측도이고, π는 근사 조건을 만족하는 확률 측도이다.