[論文レビュー] Stochastic Optimization for Regularized Wasserstein Estimators

Marin Ballu, Quentin Berthet+1 more|arXiv (Cornell University)|Feb 20, 2020

Markov Chains and Monte Carlo Methods参考文献 39被引用数 9

ひとこと要約

本稿では、双対定式化を活用し、各ステップで補助最適化問題を解く必要がなくなるように、標本から直接勾配ステップを計算することで、1ステップあたりの時間計算量をサブリニアに抑えた正則化 Wasserstein 評価のための確率的最適化アルゴリズムを提案する。この手法により、理論的収束保証とともに、効率的かつ統合的な推定と計算が可能となり、合成データ上での実験的性能が示された。

ABSTRACT

Optimal transport is a foundational problem in optimization, that allows to compare probability distributions while taking into account geometric aspects. Its optimal objective value, the Wasserstein distance, provides an important loss between distributions that has been used in many applications throughout machine learning and statistics. Recent algorithmic progress on this problem and its regularized versions have made these tools increasingly popular. However, existing techniques require solving an optimization problem to obtain a single gradient of the loss, thus slowing down first-order methods to minimize the sum of losses, that require many such gradient computations. In this work, we introduce an algorithm to solve a regularized version of this problem of Wasserstein estimators, with a time per step which is sublinear in the natural dimensions of the problem. We introduce a dual formulation, and optimize it with stochastic gradient steps that can be computed directly from samples, without solving additional optimization problems at each step. Doing so, the estimation and computation tasks are performed jointly. We show that this algorithm can be extended to other tasks, including estimation of Wasserstein barycenters. We provide theoretical guarantees and illustrate the performance of our algorithm with experiments on synthetic data.

研究の動機と目的

• Wassersteinに基づく損失を最小化する一階法における計算ボトル neck を解消すること。この方法では、各ステップで勾配を計算するために高価な最適化問題を解く必要がある。
• 各反復で追加の最適化問題を解くことなく、標本から直接勾配を計算する確率的最適化スキームを開発すること。
• T ステップ後のアルゴリズムによって得られる推定量の理論的収束バウンドを提供すること。
• Wasserstein バリオセントラム推定などの関連問題へこのアプローチを拡張すること。
• 正則化パラメータと次元数の変動に応じた、アルゴリズムの性能を合成データ上で示すこと。

提案手法

• エントロピー正則化付き最適輸送問題の双対定式化を用いて、目的関数を標本の期待値として表現する。
• 正則化付きOT問題を各反復で解く必要がなくなるように、元の測度とターゲット測度の標本から直接勾配ステップを計算する。
• 学習率 $\gamma_t = \min\{1/(\lambda t), c_0\varepsilon/\sqrt{t}\}$ の形を用いて、双対変数を最適化する。この学習率は初期収束と漸近的安定性の両立を図る。
• 標本データに基づいて双対変数を更新することで、推定と計算を同時に実行する。これにより、1ステップあたりの時間計算量をサブリニアに保証できる。
• Wasserstein バリオセントラム問題へは、同じ確率的双対最適化フレームワークを適用することで拡張する。
• 理論的分析により、問題の次元数と最小測度質量に依存するが、$O(T^{-\delta})$ の収束レート（$\delta \geq 1/2$）が得られる。

実験結果

リサーチクエスチョン

• RQ1 各反復で補助最適化問題を解かずに、正則化 Wasserstein 評価のための確率的勾配ステップを計算できるか？
• RQ2 提案された正則化 Wasserstein 評価のための確率的最適化アルゴリズムの収束レートは何か？
• RQ3 学習率の選択が双対変数更新の安定性と収束に与える影響は何か？
• RQ4 提案手法を Wasserstein バリオセントラムの推定に拡張できるか？
• RQ5 正則化パrameter と問題次元数が変化する条件下で、アルゴリズムの性能はどのように変化するか？

主な発見

• アルゴリズムは1ステップあたりサブリニアな時間計算量を達成しており、最も単純な状況では定数時間にまで短縮可能であり、大規模最適化に適している。
• 理論的収束が $O(T^{-\delta})$（$ \delta \geq 1/2$）のレートで確立され、定理5.1で予測されたレートと一致し、実験的にも観察された。
• 実験的結果から、$c_0 = 2$ のとき $\gamma_t = \min\{1/(\lambda t), c_0\varepsilon/\sqrt{t}\}$ という学習率が、収束速度と安定性の両立に優れていることが示された。
• 正則化項 $\eta$ は推定された測度をターゲットサポート上の一様分布に近づける効果を持ち、$\eta = 2\varepsilon$ とすることで数値的安定性が保証される。
• ターゲット測度のサポートサイズ $J$ を増加させると収束速度が向上するが、入力測度のサポートサイズ $I$ を増加させると性能が劣化する。
• 合成データ上では、最適な学習率選択のもとで、安定的かつ高速に収束する。実験的収束レートは $O(T^{-1})$ を上回る。