[論文レビュー] Adaptive Similar Triangles Method: a Stable Alternative to Sinkhorn's Algorithm for Regularized Optimal Transport

Pavel Dvurechensky, Alexander Gasnikov+2 more|arXiv (Cornell University)|Jun 23, 2017

Sparse and Compressive Sensing Techniques参考文献 35被引用数 11

ひとこと要約

本稿では、エントロピー正則化最適輸送および関連するエントロピー線形計画問題を解くための新規の1次順序アルゴリズムである適応的類似三角形法（ASTM）を提案する。双対問題における適応的加速勾配降下法を活用し、Sinkhorn法からのウォームスターティングを可能にすることで、ASTMはO(1/k²)の収束速度を達成し、正則化パラメータγが小さい場合にSinkhorn法よりも計算時間で優れる。実用的応用において、より高い数値的安定性と効率性を提供する。

ABSTRACT

In this paper, we are motivated by two important applications: entropy-regularized optimal transport problem and road or IP traffic demand matrix estimation by entropy model. Both of them include solving a special type of optimization problem with linear equality constraints and objective given as a sum of an entropy regularizer and a linear function. It is known that the state-of-the-art solvers for this problem, which are based on Sinkhorn's method (also known as RSA or balancing method), can fail to work, when the entropy-regularization parameter is small. We consider the above optimization problem as a particular instance of a general strongly convex optimization problem with linear constraints. We propose a new algorithm to solve this general class of problems. Our approach is based on the transition to the dual problem. First, we introduce a new accelerated gradient method with adaptive choice of gradient's Lipschitz constant. Then, we apply this method to the dual problem and show, how to reconstruct an approximate solution to the primal problem with provable convergence rate. We prove the rate $O(1/k^2)$, $k$ being the iteration counter, both for the absolute value of the primal objective residual and constraints infeasibility. Our method has similar to Sinkhorn's method complexity of each iteration, but is faster and more stable numerically, when the regularization parameter is small. We illustrate the advantage of our method by numerical experiments for the two mentioned applications. We show that there exists a threshold, such that, when the regularization parameter is smaller than this threshold, our method outperforms the Sinkhorn's method in terms of computation time.

研究の動機と目的

• 最適輸送および交通行列推定問題において、エントロピー正則化パラメータγが小さい場合にSinkhorn法が示す数値的不安定性と性能劣化を是正すること。
• 線形制約付きの強い凸最適化に一般に適用可能な、汎用的な1次順序法を開発すること。
• プライマル目的関数の残差および制約非整合性の両方に対して、O(1/k²)の理論的最速収束率を保証すること。
• γが小さい場合にSinkhorn法からのウォームスターティングを可能にすることで、実用的な高速化を実現すること。
• 低反復計算量を維持しながら、耐障害性を向上させた、Sinkhorn法の代替としての安定的かつスケーラブルな手法を提供すること。

提案手法

• プライマル問題を双対問題に変換し、強い凸性と線形制約を活用して効率的な双対最適化を可能にする。
• 勾配のリプシッツ定数を自動的に推定する適応的加速勾配法を考案し、チューニングなしで収束を向上させる。
• 双対問題をこの適応的手法で解き、O(1/k²)の収束速度を達成する。
• 閉形式の更新式を用いて双対反復から近似的なプライマル解を再構築し、実行可能性と目的関数の精度を保証する。
• γが小さい場合に、アルゴリズムをSinkhorn法の解で初期化することでウォームスターティングを実装し、収束を加速する。
• 反復ごとの計算量をSinkhorn法と同等に保ち、スケーラビリティを確保する。

実験結果

リサーチクエスチョン

• RQ1 線形制約付きのエントロピー正則化最適輸送に対して、O(1/k²)収束を達成する1次順序法を設計可能か？
• RQ2 正則化パラメータγが小さい場合に、提案手法は数値的に安定し、Sinkhorn法よりも高速に動作するか？
• RQ3 事前にリプシッツ定数を知らなくても、適応的勾配推定が収束を向上させられるか？
• RQ4 Sinkhorn法からのウォームスターティングが、小γ領域における新アルゴリズムの性能にどの程度向上効果をもたらすか？
• RQ5 さまざまな問題次元およびコスト行列に対して、新手法の計算複雑性と収束特性は、Sinkhorn法と比較してどう異なるか？

主な発見

• 提案されたASTMアルゴリズムは、プライマル目的関数の残差および制約非整合性の両方において、1次順序法の理論的最良収束率であるO(1/k²)を達成する。
• 正則化パラメータγ < γ₀の場合、ASTMは計算時間においてSinkhorn法を上回る。閾値γ₀は理論的限界γ* = ε/(4 ln p)よりも大きいことから、実用的優位性が裏付けられる。
• 合成およびMNISTベースの最適輸送問題における数値実験により、γが小さい場合にウォームスターティング付きASTMは一貫してSinkhorn法よりも高速であることが確認された。
• ASTMの実行時間は問題サイズpに対して概ね2乗的に増加し、Sinkhorn法と同様にスケーラブルであることが確認された。
• ウォームスターティングはASTMの収束を顕著に加速し、ユークリッドおよびExp-Euclideanコスト行列を用いた複数のテストケースで実行時間を短縮した。
• γが非常に小さい場合でも、ASTMは耐障害性と安定性を保ち、Sinkhorn法が数値的オーバーフローまたは収束遅延により失敗する状況でも動作する。