[논문 리뷰] An improved central limit theorem and fast convergence rates for entropic transportation costs

Eustasio del Barrio, Alberto González-Sanz외 2명|arXiv (Cornell University)|2022. 04. 19.

Economic theories and models인용 수 5

한 줄 요약

이 논문은 인코딩 최적 운반 비용에 대해 인구 수준의 비용을 중심으로 하는 중심극한정리(central limit theorem)를 확립하여 연속 확률 측도에 대한 점차적으로 타당한 추론을 가능하게 한다. 또한, 하위가우시안 및 컴act 지지 조건 하에서 경험 측도 간의 기대 인코딩 비용에 대해 더 빠른 수렴 속도를 제공하여 고차원 설정에서 통계적 효율성을 향상시킨다.

ABSTRACT

We prove a central limit theorem for the entropic transportation cost between subgaussian probability measures, centered at the population cost. This is the first result which allows for asymptotically valid inference for entropic optimal transport between measures which are not necessarily discrete. In the compactly supported case, we complement these results with new, faster, convergence rates for the expected entropic transportation cost between empirical measures. Our proof is based on strengthening convergence results for dual solutions to the entropic optimal transport problem.

연구 동기 및 목표

• 연속(비이산) 확률 측도 간의 인코딩 최적 운반에 대해 점차적으로 타당한 추론의 부족을 해결한다.
• 이전의 중심극한정리가 기대 경험 비용을 중심으로 하는 데에 한계가 있다는 점을 극복한다.
• 콤팩트 지지 조건과 하위가우시안 가정 하에서 기대 인코딩 운반 비용의 더 빠른 수렴 속도를 확립한다.
• 실제 데이터 분석에서 인코딩 비용에 대한 점차적 신뢰구간을 구성하기 위한 이론적 기반을 제공한다.
• 고차원 설정에서 더 타당한 통계 보장을 가능하게 하기 위해 인코딩 최적 운반의 이중 해의 수렴 결과를 강화한다.

제안 방법

• P와 Q에 하위가우시안 가정이 성립할 경우, 기대 비용이 아닌 진짜 인구 비용 $ S_{\rho}(P, Q) $ 를 중심으로 하는 인코딩 비용 $ S_{\rho}(P_n, Q) $ 에 대한 중심극한정리를 증명한다.
• 인코딩 최적 운반 문제의 이중 표현을 사용하고, 이중 잠재함수 $ (f_{n,\rho}, g_{n,\rho}) $ 의 수렴 결과를 강화한다.
• 경험 잠재함수를 기반으로 분산 추정량을 도출하여 점차적 신뢰구간을 구성한다: $ CI^{n,m}_{\beta} = [S_{\rho}(P_n, Q_m) \pm \hat{\sigma}_{n,m} \sqrt{\frac{n+m}{nm}} z_{1-\alpha/2}] $.
• 콤팩트 지지 조건 하에서 농도 불등식과 이중 해의 안정성에 기반해 $ \mathbb{E}[S_{\rho}(P_n, Q_m)] $ 의 더 빠른 수렴 속도를 확립한다.
• 편향의 지수적 의존성에 대해 분석하기 위해 변수변환 $ x \mapsto \epsilon^{-1/2}x $ 을 적용한다.
• 다양한 $ n $, $ d $, $ \epsilon $ 를 가진 가우시안 측도에서 몬테카를로 시뮬레이션을 통해 신뢰구간을 검증한다.

실험 결과

연구 질문

• RQ1 기대 경험 비용이 아닌 진짜 인구 비용을 중심으로 하는 인코딩 최적 운반 비용에 대해 중심극한정리를 확립할 수 있는가?
• RQ2 콤팩트 지지 조건과 하위가우시안 조건 하에서 경험 측도 간 기대 인코딩 비용의 수렴 속도는 어떻게 되는가?
• RQ3 정규화 파라미터 $ \epsilon $ 와 차원 $ d $ 는 점차적 신뢰구간의 유한표본 성능에 어떻게 영향을 미치는가?
• RQ4 인코딩 비용 추정의 편향이 지지 직경 또는 $ \epsilon^{-1} $ 에 대해 지수적으로 의존하는 정도는 어느 정도인가?
• RQ5 이중 해의 수렴을 강화하여 고차원 설정에서 더 타당한 통계 보장을 확보할 수 있는가?

주요 결과

• 이 논문은 하위가우시안 측도에 대해 진짜 인구 비용 $ S_{\rho}(P, Q) $ 를 중심으로 하는 인코딩 최적 운반 비용에 대해 처음으로 중심극한정리를 확립한다.
• 콤팩트 지지 측도의 경우, 이전에 알려진 것보다 더 빠른 속도로 기대 인코딩 비용이 인구 비용으로 수렴함으로써 통계적 효율성이 향상된다.
• 몬테카를로 시뮬레이션 결과, $ \epsilon = 0.5 $ 이고 $ d = 15 $ 일 때, $ n \geq 500 $ 이면 제안된 분산 추정량 기반의 신뢰구간이 약 95%의 근사명목 신뢰도를 달성함을 보여주며, 이는 작은 $ \epsilon $ 에서 느린 수렴을 시사한다.
• 진짜 신뢰도 확률은 작은 $ \epsilon $ 와 큰 $ d $ 에서 크게 떨어지며, 예를 들어 $ n = 5000, d = 15, \epsilon = 0.5 $ 에서 13.4% 로 떨어짐으로써 강한 표본 유한성 편향이 있음을 시사한다.
• 편향이 지지 직경에 대해 지수적으로 의존함을 입증하였으며, 이는 $ \epsilon^{-1} $ 에 대한 지수적 의존성으로 해석되며, 작은 $ \epsilon $ 에서의 열악한 성능을 설명한다.
• 결과는 비정규화 운반에서의 차원의 고통과 $ \epsilon \to 0 $ 일 때 인코딩 잠재함수가 최적 운반 해로 수렴한다는 점과 일관된다.