[論文レビュー] Minimum Cost Flows, MDPs, and $\ell_1$-Regression in Nearly Linear Time for Dense Instances

Jan van den Brand, Yin Tat Lee+5 more|arXiv (Cornell University)|Jan 14, 2021

Complexity and Algorithms in Graphs参考文献 87被引用数 14

ひとこと要約

この論文は、密行列や密グラフにおける最小コストフロー、ℓ1-回帰、割引付きマルコフ決定過程（DMDP）をほぼ線形時間で解く確率的アルゴリズムを提示する。正則化されたレヴィット・ウェイトの動的データ構造と、ほぼ平方根の反復回数を持つ新規内点法（IPM）を導入することで、最小コストフローに対しては eO(m + n^1.5) 時間、ℓ1-回帰に対しては eO(mn + n^2.5) 時間を達成し、従来の方法に比べて問題パラメータの多項式対数的依存性を著しく改善する。

ABSTRACT

In this paper we provide new randomized algorithms with improved runtimes for solving linear programs with two-sided constraints. In the special case of the minimum cost flow problem on $n$-vertex $m$-edge graphs with integer polynomially-bounded costs and capacities we obtain a randomized method which solves the problem in $ ilde{O}(m+n^{1.5})$ time. This improves upon the previous best runtime of $ ilde{O}(m\sqrt{n})$ (Lee-Sidford 2014) and, in the special case of unit-capacity maximum flow, improves upon the previous best runtimes of $m^{4/3+o(1)}$ (Liu-Sidford 2020, Kathuria 2020) and $ ilde{O}(m\sqrt{n})$ (Lee-Sidford 2014) for sufficiently dense graphs. For $\ell_1$-regression in a matrix with $n$-columns and $m$-rows we obtain a randomized method which computes an $ε$-approximate solution in $ ilde{O}(mn+n^{2.5})$ time. This yields a randomized method which computes an $ε$-optimal policy of a discounted Markov Decision Process with $S$ states and $A$ actions per state in time $ ilde{O}(S^2A+S^{2.5})$. These methods improve upon the previous best runtimes of methods which depend polylogarithmically on problem parameters, which were $ ilde{O}(mn^{1.5})$ (Lee-Sidford 2015) and $ ilde{O}(S^{2.5}A)$ (Lee-Sidford 2014, Sidford-Wang-Wu-Ye 2018). To obtain this result we introduce two new algorithmic tools of independent interest. First, we design a new general interior point method for solving linear programs with two sided constraints which combines techniques from (Lee-Song-Zhang 2019, Brand et al. 2020) to obtain a robust stochastic method with iteration count nearly the square root of the smaller dimension. Second, to implement this method we provide dynamic data structures for efficiently maintaining approximations to variants of Lewis-weights, a fundamental importance measure for matrices which generalize leverage scores and effective resistances.

研究の動機と目的

• 二面制約付き線形計画法を、特に密なグラフや行列の設定においてより高速に解くためのアルゴリズムを開発すること。
• 最小コストフロー、ℓ1-回帰、割引付きマルコフ決定過程（DMDP）の実行時間境界を、従来の問題パラメータに関する多項式対数的依存性を超えて改善すること。
• より小さい次元の平方根に近い反復回数を持つ、新たな内点法（IPM）を設計することにより、収束の安定性を向上させること。
• 正則化されたレヴィット・ウェイト（リッジスコアや有効抵抗の一般化）の近似を効率的に維持する動的データ構造を構築すること。
• 従来の方法がより高い多項式的または対数的オーバーヘッドを有していた密なインスタンスにおいて、ほぼ線形時間のアルゴリズムを達成すること。

提案手法

• n次元問題に対してほぼ √n 回の反復を達成する、[LSZ19] と [BLN+20] の技術を統合した新たなロバストな確率的内点法（IPM）を導入する。
• IPMの反復中に効率的な更新が可能な、正則化されたレヴィット・ウェイトの近似を維持するための動的データ構造を開発する。
• 双対変数や中心性測度などのIPMにおける主要な量を効率的に推定・維持するためのサンプリングスキームを採用する。
• パスフォローアプローチを用いてIPMフレームワーク内で中心路線を追跡し、ǫ-最適解への収束を保証する。
• DMDPおよびℓ1-回帰問題を線形計画問題に還元し、新規IPMおよびデータ構造を活用して近似的最適な実行時間を達成する。
• 入力行列サイズが O(|S|²|A|) である変換された線形計画問題を介してDMDPをℓ1-回帰に還元し、ほぼ線形時間での解法を可能にする。

実験結果

リサーチクエスチョン

• RQ1 密なグラフにおける最小コストフローに対して、O(m√n) の境界を超えてほぼ線形時間のアルゴリズムを達成できるか？
• RQ2 密行列に対して、入力サイズにほぼ線形な時間 eO(mn + n^2.5) でℓ1-回帰を解くことができるか？
• RQ3 状態数と各状態の行動数にほぼ線形な時間で、1/ε や 1/(1−γ) に対して対数的依存性を有する ǫ-最適方策を計算できるか？
• RQ4 問題の条件数に依存しない、ほぼ √n 回の反復回数を持つロバストな内点法を設計できるか？
• RQ5 IPMへの応用を想定し、ほぼ最適な更新・クエリ時間で正則化されたレヴィット・ウェイトを動的に維持できるか？

主な発見

• 整数で多項式的に有界なコストと容量を持つ n 頂点 m 辺のグラフにおける最小コストフローに対して、eO(m + n^1.5) 時間のアルゴリズムを達成し、従来の eO(m√n) の境界を改善した。
• m×n 行列におけるℓ1-回帰に対して、ǫ-近似解を eO(mn + n^2.5) 時間で計算でき、従来の eO(mn^1.5) の境界を改善した。
• S 個の状態と各状態で A 個の行動を有するDMDPに対して、ǫ-最適方策を eO(S²A + S^2.5) 時間で計算でき、従来の eO(S^2.5A) の境界を改善した。
• 新規内点法は、次元の小さい方の √n に近い反復回数を達成し、標準的なIPMに比べて反復回数を著しく削減した。
• 正則化されたレヴィット・ウェイトのための動的データ構造は、効率的な更新とクエリをサポートし、全体のアルゴリズムにおけるほぼ線形時間性能を実現した。
• DMDP設定において、1/ε、1/(1−γ)、M に対してすべて対数的依存性を有する、初めてのほぼ線形時間アルゴリズムを達成した。