[논문 리뷰] Conditional Wasserstein Barycenters and Interpolation/Extrapolation of Distributions

Jianing Fan, Hans‐Georg Müller|arXiv (Cornell University)|2021. 07. 20.

Geometric Analysis and Curvature Flows참고 문헌 40인용 수 4

한 줄 요약

이 논문은 2-워샤르스타인 거리계를 사용하여 다변량 분포에 대한 조건부 워샤르스타인 바리센터를 제안하며, 스칼라 또는 벡터 예측 변수 기반으로 분포 반응의 보간 및 외삽을 가능하게 한다. 규칙성 조건 하에서 예측 변수 공간의 길이선은 워샤르스타인 공간에서의 길이선으로 매핑되며, Sinkhorn-정규화된 계산을 통한 수렴 보장과 함께 전역 및 국소 모델에 대한 점근적 일致성을 확보한다.

ABSTRACT

Increasingly complex data analysis tasks motivate the study of the dependency of distributions of multivariate continuous random variables on scalar or vector predictors. Statistical regression models for distributional responses so far have primarily been investigated for the case of one-dimensional response distributions. We investigate here the case of multivariate response distributions while adopting the 2-Wasserstein metric in the distribution space. The challenge is that unlike the situation in the univariate case, the optimal transports that correspond to geodesics in the space of distributions with the 2-Wasserstein metric do not have an explicit representation for multivariate distributions. We show that under some regularity assumptions the conditional Wasserstein barycenters constructed for a geodesic in the Euclidean predictor space form a corresponding geodesic in the Wasserstein distribution space and demonstrate how the notion of conditional barycenters can be harnessed to interpolate as well as extrapolate multivariate distributions. The utility of distributional inter- and extrapolation is explored in simulations and examples. We study both global parametric-like and local smoothing-like models to implement conditional Wasserstein barycenters and establish asymptotic convergence properties for the corresponding estimates. For algorithmic implementation we make use of a Sinkhorn entropy-penalized algorithm. Conditional Wasserstein barycenters and distribution extrapolation are illustrated with applications in climate science and studies of aging.

연구 동기 및 목표

• 스칼라 또는 벡터 예측 변수에 대해 2-워샤르스타인 거리계를 사용하여 다변량 분포의 회귀를 위한 통계적 프레임워크를 개발하는 것.
• 반응이 분포이고 예측 변수가 공변량인 조건부 설정으로 워샤르스타인 바리센터 개념을 확장하는 것.
• 예측 변수 공간의 길이선이 워샤르스타인 분포 공간에서 길이선을 유도할 수 있는 조건을 설정하는 것.
• 조건부 바리센터 프레임워크에서 전역 파arametric-유사 및 국소 스무딩-유사 모델에 대한 점근적 수렴 결과를 제공하는 것.
• 정규화가 감소함에 따라 진정한 워샤르스타인 추정치로 수렴하는 Sinkhorn 엔트로피-벌점 알고리즘을 통한 실용적 계산을 가능하게 하는 것.

제안 방법

• 확률측도의 공간 위에서 2-워샤르스타인 거리계를 리만 기하학적 구조로 사용하여 조건부 바리센터를 분포 반응의 프레셰 평균으로 정의한다.
• 추정된 분포와 관측된 분포 간의 2-워샤르스타인 거리의 제곱합을 가중치로 최소화하는 방식으로 조건부 바리센터를 정의한다.
• 계산적으로 복잡한 최적 운반 계획을 줄이기 위해 엔트로피 정규화를 적용한 Sinkhorn 알고리즘을 적용하여 복잡도를 감소시키고 확장 가능한 구현을 가능하게 한다.
• Sinkhorn-정규화된 추정치가 정규화 파rameter가 무한으로 갈수록 진정한 워샤르스타인 바리센터로 수렴함을 보여 이론적 수렴을 확립한다.
• 전역 파arametric-유사 모델과 국소 스무딩-유사 모델이라는 두 가지 모델링 접근법을 개발하며, 모두 조건부 바리센터 추정에 기반한다.
• 규칙성 조건 하에서 예측 변수 길이선에 의해 유도된 조건부 바리센터 경로가 워샤르스타인 공간에서 길이선을 형성함을 증명하여 타당한 보간 및 외삽을 가능하게 한다.

실험 결과

연구 질문

• RQ1 조건부 워샤르스타인 바리센터는 통계적으로 타당한 방식으로 예측 변수 기반으로 다변량 분포의 보간 및 외삽에 사용될 수 있는가?
• RQ2 예측 변수 공간에서의 길이선이 워샤르스타인 분포 공간에서의 길이선을 유도하는 조건은 무엇인가?
• RQ3 최적 운반의 계산 복잡도를 낮추면서도 분포 회귀에서 통계적 일치성을 유지할 수 있는 방법은 무엇인가?
• RQ4 조건부 워샤르스타인 바리센터에 대한 전역 및 국소 모델의 점근적 수렴 속도는 무엇인가?
• RQ5 정규화가 감소함에 따라 Sinkhorn-정규화된 추정치는 진정한 워샤르스타인 바리센터 추정치로 어떻게 수렴하는가?

주요 결과

• 예측 변수 공간이 길이선을 따를 경우 조건부 워샤르스타인 바리센터는 워샤르스타인 공간에서 길이선을 형성하여 다변량 분포의 자연스러운 보간 및 외삽을 가능하게 한다.
• 정규화 파rameter가 무한으로 갈수록 Sinkhorn-정규화된 바리센터 추정치는 거의 확실히 진정한 워샤르스타인 바리센터로 수렴한다.
• 전역 및 국소 모델 모두에서 기저 측도에 대한 규칙성 가정 하에 제시된 추정치는 잘 정의된 수렴 속도를 갖는 점근적 수렴을 달성한다.
• 이 방법은 기후 데이터 및 종단적 노화 연구와 같은 실제 응용에서 분포를 성공적으로 보간 및 외삽한다.
• 이론적 결과는 조건부 바리센터 경로가 길이선 구조를 유지함을 확인하여 워샤르스타인 기반의 회귀를 분포 반응에 적용하는 것이 타당함을 입증한다.
• 시뮬레이션과 데이터 예제를 통해 이 방법이 복잡한 고차원 분포 반응을 모델링하는 데 있어 강건성과 실용적 유용성을 입증한다.