[論文レビュー] Space-Efficient Interior Point Method, with applications to Linear Programming and Maximum Weight Bipartite Matching

S. Cliff Liu, Zhao Song+3 more|arXiv (Cornell University)|Sep 13, 2020

Complexity and Algorithms in Graphs参考文献 73被引用数 11

ひとこと要約

本稿では、一般線形計画問題を解くために$\tilde{O}(n^2)$の空間と$\tilde{O}(\bar{m}\text{ passes})$を達成する、空間効率的な内部点法（IPM）を提示する。最大重み二部マッチングについては、半ストリーミングモデルで$\tilde{O}(\bar{m})$のパス数を達成する。この手法は、プライマル変数の維持を回避するデュアル専用IPMフレームワークを採用し、再帰的なレヴィス重みの計算とインプレースでのヘシアン更新を用いることで、プライマル・デュアル状態の維持を避けており、$m$に多項式的に依存しない。これは、$m$に依存しない空間とサブラインのパス数を達成する、初めてのストリーミングLPソルバーである。

ABSTRACT

We study the problem of solving linear program in the streaming model. Given a constraint matrix $A\in \mathbb{R}^{m imes n}$ and vectors $b\in \mathbb{R}^m, c\in \mathbb{R}^n$, we develop a space-efficient interior point method that optimizes solely on the dual program. To this end, we obtain efficient algorithms for various different problems: * For general linear programs, we can solve them in $\widetilde O(\sqrt n\log(1/ε))$ passes and $\widetilde O(n^2)$ space for an $ε$-approximate solution. To the best of our knowledge, this is the most efficient LP solver in streaming with no polynomial dependence on $m$ for both space and passes. * For bipartite graphs, we can solve the minimum vertex cover and maximum weight matching problem in $\widetilde O(\sqrt{m})$ passes and $\widetilde O(n)$ space. In addition to our space-efficient IPM, we also give algorithms for solving SDD systems and isolation lemma in $\widetilde O(n)$ spaces, which are the cornerstones for our graph results.

研究の動機と目的

• 特に縦長で密な行列（$m \gg n$）に対して、ストリーミングモデルにおける空間効率的な線形計画ソルバーの不足に対処すること。
• 従来のプライマル・デュアルIPMが直面する$\Omega(m+n^2)$の空間ボトルネックを克服し、デュアル専用最適化フレームワークに移行すること。
• $m$に依存しないサブラインのパス数と空間を達成するストリーミングアルゴリズムを、線形計画問題に適用すること。
• このフレームワークを拡張し、最小点被覆や最大重み二部マッチングといったグラフ問題を、半ストリーミングモデルで解けるようにすること。
• SDD系や分離補題のための空間効率的なソルバーを設計し、グラフ応用の基盤となること。

提案手法

• プライマル変数を維持しないデュアル専用のロバスト内部点法（IPM）を提案し、ヘシアン行列のみを格納することで、空間使用量を$\widetilde{O}(n^2)$に削減する。
• 完全な行列を格納せずにヘシアンの条件数を維持するため、再帰的かつインプレースでレヴィス重みを計算する。
• 再帰的構造を持つハイブリッドバリア関数を用い、コレスキー分解を用いて空間効率的なニュートンステップの計算を可能にする。
• 再帰的リーディングスコア推定とインプレースのコレスキー更新を用いて、ストリーミングモデルにおける反復的SDD系ソルバーを設計する。
• 最小点被覆や最大重み二部マッチングを、低木幅構造を持つデュアルLPに還元することで、デュアル専用IPMをグラフ問題に適用する。
• ストリーミングモデルで分離補題を実装し、LP双対性により一意な最適解を保証することで、正確なマッチングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、制約数$m$に依存しないサブラインのパス数と空間を達成するストリーミングモデルにおける線形計画ソルバーを設計できるか？
• RQ2 半ストリーミングモデルにおける最大重み二部マッチングを解くための最小空間とパス複雑度は何か？
• RQ3 再帰的かつインプレースにレヴィス重みやリーディングスコアを計算することで、ストリーミングにおける空間効率的なIPMを実現できるか？
• RQ4 $\widetilde{O}(n)$の空間と$\widetilde{O}(\bar{m})$のパス数でSDD系を解き、それらをグラフ問題に応用できるか？
• RQ5 デュアル専用IPMフレームワークを用いて、$\widetilde{O}(\bar{m})$のパス数と$\widetilde{O}(n)$の空間で、正確な最大重み二部マッチングを達成できるか？

主な発見

• 本稿では、一般線形計画問題を$\widetilde{O}(n^2)$の空間と$\widetilde{O}(\bar{m})$のパス数で解くデュアル専用IPMを提示し、$m$に多項式的に依存しない。
• 最大重み二部マッチングに対しては、半ストリーミングモデルで$\widetilde{O}(\bar{m})$のパス数と$\widetilde{O}(n)$の空間を達成する。
• レヴィス重みは$\widetilde{O}(n^2)$の空間で再帰的に計算され、全行列の格納なしに効率的なヘシアン近似を可能にする。
• SDD系ソルバーは$\widetilde{O}(n)$の空間と$\widetilde{O}(n)$のパス数で開発され、グラフ応用のコアなプリミティブを形成する。
• 分離補題は$\widetilde{O}(n)$の空間で実装され、$\widetilde{O}(\bar{m})$のパス数でLP双対性を用いて正確な最大マッチングを実現する。
• 木幅が多項式対数的であるグラフに対しては、$\widetilde{O}(n)$の空間と$\widetilde{O}(\bar{m})$のパス数を達成し、到達可能性やSSSPアルゴリズムとの差を埋める。