[논문 리뷰] Minimax estimation of discontinuous optimal transport maps: The semi-discrete case

Aram-Alexandre Pooladian, Vincent Divol외 1명|arXiv (Cornell University)|2023. 01. 26.

Markov Chains and Monte Carlo Methods인용 수 5

한 줄 요약

이 논문은 표적 측도가 이산인 반-이산 설정에서 비연속 최적 운반 지도에 대해 최소최대 최적 추정기의 제안한다. 엔트로픽 최적 운반을 사용하여 저자들은 차원에 관계없이 $ n^{-1/2} $ 수렴 속도를 확립한다. 이는 차원의 저주와 이전 방법의 유한 표본 제약 조건을 극복하며, 운반 지도가 비연속일 경우에도 성립한다.

ABSTRACT

We consider the problem of estimating the optimal transport map between two probability distributions, $P$ and $Q$ in $\mathbb R^d$, on the basis of i.i.d. samples. All existing statistical analyses of this problem require the assumption that the transport map is Lipschitz, a strong requirement that, in particular, excludes any examples where the transport map is discontinuous. As a first step towards developing estimation procedures for discontinuous maps, we consider the important special case where the data distribution $Q$ is a discrete measure supported on a finite number of points in $\mathbb R^d$. We study a computationally efficient estimator initially proposed by Pooladian and Niles-Weed (2021), based on entropic optimal transport, and show in the semi-discrete setting that it converges at the minimax-optimal rate $n^{-1/2}$, independent of dimension. Other standard map estimation techniques both lack finite-sample guarantees in this setting and provably suffer from the curse of dimensionality. We confirm these results in numerical experiments, and provide experiments for other settings, not covered by our theory, which indicate that the entropic estimator is a promising methodology for other discontinuous transport map estimation problems.

연구 동기 및 목표

• 운동반 지도가 비연속일 경우, 이는 이전 이론에서 리프시츠 또는 미분 가능성 조건을 요구하여 제외된 경우를 다루기 위해.
• 표본 수가 유한한 반-이산 설정에서 엔트로픽 최적 운반 기반 추정기의 유한 표본 성능을 분석하기 위해.
• 최소한의 정규성 조건 하에 차원에 독립적인 최소최대 최적성 추정기 수렴 속도를 확립하기 위해.
• 표준 추정기인 1-NN가 이 설정에서 차원의 저주를 겪고 유한 표본 보장을 갖지 못함을 보여주기 위해.
• 엔트로픽 OT의 사용에 대한 이론적 근거를 제공하고, 이론적 범위를 초월한 수치적 검증을 통해 그 강건성을 입증하기 위해.

제안 방법

• 원래 [58]에서 소개되고 [55]에서 분석된 엔트로픽 최적 운반 기반의 계산적으로 효율적인 추정기를 반-이산 케이스에 적응하여 제안한다.
• 원천 측도 $ P $ 와 표적 원소 $ y_j $ 에 대한 미약한 정규성 조건 하에 $ L^2(P) $-노름에서 수렴 속도 $ n^{-1/2} $ 를 확립한다. 이는 차원 $ d $ 와 무관하다.
• 커버링 세트와 부피 추정을 기반으로 한 기하학적 추론을 통해 엔트로픽 추정기에서 정확한 할당 확률의 하한을 구하고, 농도 불등식을 활용한다.
• 스토크래틱 오차를 제어하기 위해 얀의 부등식을 적용하고, 엔트로피 적분 한계를 통한 경험 측도 근사의 경험 과정 제어를 수행한다.
• empirical 표적 측도가 진짜 이산 측도에서 벗어나는 정도를 제어하기 위해 $ \chi^2 $-발산을 이용한 측도 변화 추론 기법을 사용한다.
• 기하학적 분리와 부피 비교 추론을 통해 추정기가 정확하게 작동할 가능성이 높은 영역 $ S $ 를 구성하고, $ n^{-1/2} $ 수렴 속도 유도에 기여한다.

Figure 1: An illustration of a semi-discrete optimal transport map. The support of $P$ , the whole rectangle, is partitioned into regions, each of which is transported to one of the atoms of the discrete target measure $Q$ . The resulting map is discontinuous at the boundaries of each cell.

실험 결과

연구 질문

• RQ1 계산적으로 효율적인 추정기는 반-이산 설정에서 비연속 최적 운반 지도에 대해 최소최대 최적 수렴 속도를 달성할 수 있는가?
• RQ2 운동반 지도가 비연속일 경우, 엔트로픽 최적 운반 추정기는 여전히 유한 표본 통계 보장을 유지하는가?
• RQ3 반-이산 케이스에서 비연속 운반 지도를 추정할 때 최적 수렴 속도는 무엇이며, 이는 차원에 독립적인가?
• RQ4 1-NN와 같은 전통적 방법과 비교해 볼 때 엔트로픽 추정기는 통계적 효율성과 차원에 대한 강건성 측면에서 어떻게 다른가?
• RQ5 엔트로픽 OT에 대한 이론적 보장을 부드러운 지도를 넘어서 비연속 지도까지 반-이산 설정에서 확장할 수 있는가?

주요 결과

• 엔트로픽 최적 운반 추정기는 반-이산 설정에서 $ L^2(P) $-노름에서 차원 $ d $ 와 무관하게 최소최대 최적 수렴 속도 $ n^{-1/2} $ 를 달성한다.
• 이 수렴 속도 $ n^{-1/2} $ 는 최적 운반 지도가 비연속일 경우에도 성립하며, 이는 이전 추정기에서 요구하는 부드러움 조건을 위반한다.
• 1-Nearest Neighbor 추정기는 차원의 저주를 겪으며, 수렴 속도가 $ n^{-2/d} $ 로 나타나 $ d > 4 $ 일 경우 급격히 악화되며, 이 영역에서는 유한 표본 보장을 갖지 못한다.
• 이론적 분석은 엔트로픽 추정기가 비연속성에 강건하고 통계적 효율성을 유지함을 확인하며, 이론적 가정을 초월한 수치 실험을 통해 강건성을 검증한다.
• empirical 표적 측도의 $ \chi^2 $-발산은 기대값이 $ \frac{J-1}{n} $ 이며, 이는 경험 과정에서의 추정 오차 제어에 사용된다.
• 부피가 $ \gtrsim n^{-1/d} $ 인 영역 $ S $ 를 기하학적으로 구성함으로써 추정기가 높은 확률로 정확한 할당을 하게 되며, 이는 $ n^{-1/2} $ 수렴 속도 유도에 기여한다.

Figure 2: Left: $\hat{T}_{\varepsilon}$ versus $\hat{T}_{\text{1NN}}$ for $J=2$ and $d=10$ . Right: $\hat{T}_{\varepsilon}$ versus $\hat{T}_{\text{1NN}}$ for $J=10$ and $d=50$ .