[논문 리뷰] Projected Statistical Methods for Distributional Data on the Real Line with the Wasserstein Metric

M. Pegoraro, Mario Beraha|arXiv (Cornell University)|2021. 01. 22.

Anomaly Detection Techniques and Applications인용 수 7

한 줄 요약

이 논문은 실수선 상의 분포 데이터를 2-Wasserstein 거리 척도를 사용하여 분석하기 위한 투영 통계 방법을 제안한다. B-스플라인 근사에 기반한 선형 공간으로의 거리 투영을 활용하여, 이전 방법들에 비해 더 빠르고 안정적이며 모형 불일치 상황에서도 강건한 일致성 있는 PCA 및 회귀 분석을 가능하게 한다.

ABSTRACT

We present a novel class of projected methods, to perform statistical analysis on a data set of probability distributions on the real line, with the 2-Wasserstein metric. We focus in particular on Principal Component Analysis (PCA) and regression. To define these models, we exploit a representation of the Wasserstein space closely related to its weak Riemannian structure, by mapping the data to a suitable linear space and using a metric projection operator to constrain the results in the Wasserstein space. By carefully choosing the tangent point, we are able to derive fast empirical methods, exploiting a constrained B-spline approximation. As a byproduct of our approach, we are also able to derive faster routines for previous work on PCA for distributions. By means of simulation studies, we compare our approaches to previously proposed methods, showing that our projected PCA has similar performance for a fraction of the computational cost and that the projected regression is extremely flexible even under misspecification. Several theoretical properties of the models are investigated and asymptotic consistency is proven. Two real world applications to Covid-19 mortality in the US and wind speed forecasting are discussed.

연구 동기 및 목표

• 실수선 상의 확률 분포에 대해 2-Wasserstein 거리 척도 하에서 통계 분석을 수행하는 데 도전하는 것.
• 기존 방법의 한계, 즉 낮은 해석 가능성, 수치적 불안정성, 높은 계산 비용을 극복하는 것.
• 분포 데이터에 대한 PCA 및 회귀 분석을 위한 빠르고 경험적으로 효율적이며 渐近적으로 일치하는 방법을 개발하는 것.
• 코로나19 사망률 및 바람 속도 예측과 같은 실세계 문제에의 실용적 적용을 가능하게 하는 것.

제안 방법

• 약한 리만 기하학적 구조에 기반한 탄성 공간 표현을 사용하여 워샤어스타인 공간에서 선형 공간으로 분포를 매핑하는 것.
• 기하학적 충실도를 확보하기 위해 결과를 다시 워샤어스타인 공간으로 제약하는 거리 투영을 적용하는 것.
• 분위수 함수를 표현하고 빠른 경험적 계산을 가능하게 하기 위해 제약 조건이 있는 B-스플라인 근사를 사용하는 것.
• B-스플라인 기저 함수로 생성된 유한차원 부분공간으로의 투영을 통해 PCA 및 회귀를 공식화하는 것.
• 계산 속도와 수치적 안정성을 향상시키기 위해 탄성점의 선택을 최적화하는 것.
• 정규성 조건 하에서 PCA 및 회귀에 대한 이론적 일치 결과를 도출하는 것.

실험 결과

연구 질문

• RQ1 투영 방법이 기하학적 지오데식 PCA와 유사한 성능을 달성하면서도 계산 비용을 크게 줄일 수 있는가?
• RQ2 분포의 분위수 함수가 불연속적인 경우와 같이 워샤어스타인 공간 경계 근처에 집중된 데이터에 대해 제안된 방법은 어떻게 대처하는가?
• RQ3 모형 불일치 상황에서 투영 PCA는 해석 가능성과 재구성 정확도를 어느 정도 유지하는가?
• RQ4 주성분의 차원이 투영 프레임워크에서 점수의 해석 가능성과 안정성에 어떤 영향을 미치는가?
• RQ5 이 프레임워크는 회귀로 확장될 수 있으며, 기존 워샤어스타인 기반 회귀 모델과 비교해 어떻게 성능을 발휘하는가?

주요 결과

• 투영 PCA는 기하학적 지오데식 PCA와 유사한 재구성 오차를 달성하지만 계산 비용은 극적으로 감소한다.
• 정규성 조건 하에서 PCA 및 회귀에 대해 점점 일치하는 성질을 보인다.
• β⋆₁를 사용할 경우, J ≥ 20개의 기저 함수를 사용할 때 재구성 오차가 10⁻⁴ 이하로 떨어진다.
• β⋆₂를 사용할 경우, 동일한 오차 기준을 달성하기 위해 더 높은 J = 100개의 기저 함수가 필요하다.
• 워샤어스타인 공간 경계 근처에 있는 데이터를 다룰 때 병리적인 케이스에서 k ≥ 3일 때 해석 가능성 점수(ISk)가 0으로 떨어지며, 이는 저분산 성분에 대한 방향 해석 가능성의 한계를 시사한다.
• 모든 k에 대해 유령 분산(GVk)이 10⁻¹⁰ 이하로 유지되어 도전적인 설정에서도 안정적이고 낮은 분산의 투영을 보여준다.