[論文レビュー] Polynomial-time algorithms for Multimarginal Optimal Transport problems with decomposable structure

Jason M. Altschuler, Enric Boix-Adserà|arXiv (Cornell University)|Aug 7, 2020

Markov Chains and Monte Carlo Methods参考文献 49被引用数 10

ひとこと要約

本稿では、局所的／グローバルな相互作用、または低ランク／スパースな成分を有する分解可能関数という2つの構造的性質を活用することで、初めての多目的最適輸送（MOT）の多項式時間アルゴリズムを提案する。この手法により、多項式時間で正確かつスパースな解が得られ、従来の方法が計算不能あるいは近似・密な解しか得られなかったのと比べて顕著な改善が達成される。

ABSTRACT

Multimarginal Optimal Transport (MOT) has recently attracted significant interest due to applications in machine learning, statistics, and the sciences. However, in most applications, the success of MOT is severely limited by a lack of efficient algorithms. Indeed, in general, MOT requires exponential time in the number of marginals k and their support sizes n. This paper develops a general theory about structural properties that make MOT solvable in poly(n,k) time. We identify two such properties: decomposability of the cost into either (i) local and simple global interactions; or (ii) low-rank and sparse components. These two structures encompass many--if not most--current applications of MOT. In addition to providing the first poly(n,k)-time algorithms for a wide range of MOT problems, our results also provide better algorithms for MOT problems that are already known to be tractable: Our algorithms compute solutions which are exact and sparse. (Previous algorithms can do neither.) We demonstrate our results theoretically and numerically on popular applications in machine learning, statistics, and fluid dynamics.

研究の動機と目的

• 高次元応用における多目的最適輸送（MOT）の計算不能性に対処すること。
• MOT問題の多項式時間解法を可能にするコスト関数の構造的条件を同定すること。
• 従来の手法の制限を克服する正確かつスパースな解を計算するアルゴリズムを開発すること。
• 提案フレームワークの適用可能性と効率性を、機械学習や流体力学を含む多様な分野で示すこと。

提案手法

• コスト関数が局所的相互作用とグローバル項に分解できる線形計画問題としてMOT問題を定式化する。
• 相互作用項の構造を活かすために、コストテンソルの低ランクおよびスパース分解を導入する。
• 双対性とブロック座標降下法を活用して、結果得られる最適化問題を poly(n,k) 時間で解く。
• 計算複雑性を低減しつつ正確性を維持するため、滑らか化とスパース化戦略を適用する。
• 構造的コストを効率的に処理するため、分解に基づくADMMに類似したアルゴリズムを用いる。
• 反復的最適化中にランクおよびサポート制約を強制することで、解のスパarsityを保証する。

実験結果

リサーチクエスチョン

• RQ1 コスト関数にどのような構造的条件が満たされると、多目的最適輸送が多項式時間で解けるのか？
• RQ2 局所的相互作用や低ランク成分といった分解可能コスト構造は、正確でスパースな解を可能にするか？
• RQ3 提案されたアルゴリズムは、既存のMOTソルバーと比較して性能および正確性で優れているか？
• RQ4 このフレームワークは、機械学習や流体力学分野の実世界問題にどの程度応用可能か？
• RQ5 高次元設定において、正確性を保ちながら多項式時間の複雑性を達成できるか？

主な発見

• 本稿では、局所的／グローバルな相互作用、または低ランク／スパース成分を有する分解可能コスト関数を有するMOTが、poly(n,k) 時間で解けることが確立された。
• 提案されたアルゴリズムは正確な解を計算することができ、従来の手法が近似解や密な解しか得られなかったのと比べて顕著な改善が達成された。
• 正確性を損なわず、解にスパarsityを実現することで、計算と解釈の両面で効率が向上した。
• フレームワークは機械学習、統計、流体力学の応用において実証的に検証され、優れた性能とスケーラビリティを示した。
• 理論的および数値的結果により、実行時間と解の品質の両面で、従来の手法を凌駆するアルゴリズムの優位性が示された。