[論文レビュー] Conditional Wasserstein Barycenters and Interpolation/Extrapolation of Distributions

Jianing Fan, Hans‐Georg Müller|arXiv (Cornell University)|Jul 20, 2021

Geometric Analysis and Curvature Flows参考文献 40被引用数 4

ひとこと要約

本稿では、2-ウォッサーシュタイン距離を用いて多変量分布に対する条件付きウォッサーシュタイン重心を導入し、スカラーやベクトル予測子に基づく分布応答の補間および外挿を可能にする。正則性条件下では、予測子空間における測地線がウォッサーシュタイン空間における測地線に写像され、Sinkhorn正則化計算による収束保証と、グローバルおよびローカルモデルの両方における漸近的一貫性が保証される。

ABSTRACT

Increasingly complex data analysis tasks motivate the study of the dependency of distributions of multivariate continuous random variables on scalar or vector predictors. Statistical regression models for distributional responses so far have primarily been investigated for the case of one-dimensional response distributions. We investigate here the case of multivariate response distributions while adopting the 2-Wasserstein metric in the distribution space. The challenge is that unlike the situation in the univariate case, the optimal transports that correspond to geodesics in the space of distributions with the 2-Wasserstein metric do not have an explicit representation for multivariate distributions. We show that under some regularity assumptions the conditional Wasserstein barycenters constructed for a geodesic in the Euclidean predictor space form a corresponding geodesic in the Wasserstein distribution space and demonstrate how the notion of conditional barycenters can be harnessed to interpolate as well as extrapolate multivariate distributions. The utility of distributional inter- and extrapolation is explored in simulations and examples. We study both global parametric-like and local smoothing-like models to implement conditional Wasserstein barycenters and establish asymptotic convergence properties for the corresponding estimates. For algorithmic implementation we make use of a Sinkhorn entropy-penalized algorithm. Conditional Wasserstein barycenters and distribution extrapolation are illustrated with applications in climate science and studies of aging.

研究の動機と目的

• スカラーやベクトル予測子に対して多変量分布を2-ウォッサーシュタイン距離を用いて回帰する統計的フレームワークの構築を目的とする。
• 応答が分布で予測子が共変量であるような条件付き設定において、ウォッサーシュタイン重心の概念を拡張することを目的とする。
• 予測子空間における測地線がウォッサーシュタイン分布空間における測地線を誘導する条件を確立することを目的とする。これにより、意味的な補間および外挿が可能になる。
• 条件付き重心フレームワークにおけるグローバルパラメトリック型およびローカルスムージング型の両モデルについて、漸近的収束結果を提供することを目的とする。
• 正則化が弱まるにつれて真のウォッサーシュタイン推定値に収束するように、Sinkhornエントロピー正則化アルゴリズムによる実用的計算を可能とすることを目的とする。

提案手法

• 確率測度の空間上に2-ウォッサーシュタイン距離をリーマン構造として用い、分布応答のフリーチェ平均として条件付き重心を定義する。
• 推定された分布と観測された分布の間の2-ウォッサーシュタイン距離の重み付き二乗和の最小化により、条件付き重心を定義する。
• 計算的に高価な最適輸送計画を軽減し、スケーラブルな実装を可能とするために、エントロピー正則化を施したSinkhornアルゴリズムを適用する。
• 正則化パラメータが無限大に近づくにつれて、Sinkhorn正則化推定値が真のウォッサーシュタイン重心に確率的収束することを示し、理論的収束性を確立する。
• グローバルパラメトリック型モデルとローカルスムージング型モデルの2つのモデリングアプローチを開発し、両者とも条件付き重心推定に根ざしている。
• 正則性条件下では、予測子の測地線によって誘導される条件付き重心経路がウォッサーシュタイン空間内での測地線を形成することを証明し、有効な補間および外挿を可能にする。

実験結果

リサーチクエスチョン

• RQ1 条件付きウォッサーシュタイン重心は、統計的に妥当な方法で予測子に基づいて多変量分布の補間および外挿に利用可能か？
• RQ2 予測子空間における測地線が、ウォッサーシュタイン分布空間における測地線を誘導するのはどのような条件下か？
• RQ3 最適輸送の計算複雑性を低下させつつ、分布回帰における統計的一致性を保持するにはどうすればよいか？
• RQ4 グローバルおよびローカルモデルの条件付きウォッサーシュタイン重心に対する漸近的収束速度は何か？
• RQ5 正則化が弱まるにつれて、Sinkhorn正則化推定値は真のウォッサーシュタイン重心推定値にどのように収束するか？

主な発見

• 予測子空間が測地線に従う場合、条件付きウォッサーシュタイン重心はウォッサーシュタイン空間内に測地線を形成し、多変量分布の自然な補間および外挿を可能にする。
• 正則化パラメータが無限大に近づくにつれて、Sinkhorn正則化重心推定値は確率的に真のウォッサーシュタイン重心に収束する。
• グローバルおよびローカル両モデルにおいて、下位の測度に正則性仮定が成り立つ限り、提案された推定器は明確な収束速度を伴う漸近的収束を達成する。
• 本手法は、気象データや縦断的高齢化研究を含む実世界の応用において、分布の補間および外挿を成功裏に実行している。
• 理論的結果により、条件付き重心経路が測地線構造を保存することが確認され、ウォッサーシュタインベースの回帰が分布応答に適していることが裏付けられる。
• シミュレーションおよびデータ例により、本手法の頑健性と、複雑で高次元の分布応答をモデル化するための実用的有用性が示されている。