[論文レビュー] A nearly-mlogn time solver for SDD linear systems

Ioannis Koutis, Gary L. Miller+1 more|arXiv (Cornell University)|Feb 23, 2011

Complexity and Algorithms in Graphs参考文献 25被引用数 93

ひとこと要約

本稿では、グラフスパース化および縮約における不変全ストレッチを活用する新しい事前スケーリングチェーン構築法を導入することで、対称的対角優勢（SDD）線形方程式系のほぼ-m log n時間のソルバーを提示する。主な貢献は、チェーン全体で同一の低ストレッチスパニングツリーを再利用することで、O~(m log²n)からO~(m log n)への高速化を達成し、平均ストレッチO(1/log n)のスパインが多く含まれるグラフに対して線形時間ソルバーを実現することである。

ABSTRACT

We present an improved algorithm for solving symmetrically diagonally dominant linear systems. On input of an $n imes n$ symmetric diagonally dominant matrix $A$ with $m$ non-zero entries and a vector $b$ such that $A\bar{x} = b$ for some (unknown) vector $\bar{x}$, our algorithm computes a vector $x$ such that $||{x}-\bar{x}||_A < ε||\bar{x}||_A $ {$||\cdot||_A$ denotes the A-norm} in time $${ ilde O}(m\log n \log (1/ε)).$$ The solver utilizes in a standard way a `preconditioning' chain of progressively sparser graphs. To claim the faster running time we make a two-fold improvement in the algorithm for constructing the chain. The new chain exploits previously unknown properties of the graph sparsification algorithm given in [Koutis,Miller,Peng, FOCS 2010], allowing for stronger preconditioning properties. We also present an algorithm of independent interest that constructs nearly-tight low-stretch spanning trees in time $ ilde{O}(m\log{n})$, a factor of $O(\log{n})$ faster than the algorithm in [Abraham,Bartal,Neiman, FOCS 2008]. This speedup directly reflects on the construction time of the preconditioning chain.

研究の動機と目的

• グラフアルゴリズム、数値PDE、機械学習において基本的である対称的対角優勢（SDD）線形方程式系のより高速なソルバーを開発すること。
• SDDソルバーの従来のO~(m log²n)の実行時間ボトルネックを、対数要因への依存を軽減することで克服すること。
• グラフスパース化および縮約プロセスにおける不変性を活用することで、ほぼ最適なO~(m log n)の実行時間に到達すること。
• すべての段階で同一の低ストレッチスパニングツリーを用いることで、より強いスペクトル的保証を持つ事前スケーリングチェーンを構築すること。
• 従来のO(m log²n)法よりも改善されたO~(m log n)時間で、ほぼタイトな低ストレッチスパニングツリーを構築するより高速なアルゴリズムを提供すること。

提案手法

• スペクトルスパース化と次数1および次数2のノードの貪欲な削除を用いて、徐々に疎らになるグラフの事前スケーリングチェーンを構築する。
• KMP10aのインクリメンタルスパース化アルゴリズムのより深い分析を行い、スパース化および縮約の下で非ツリー辺の全ストレッチが不変であることを証明する。
• チェーン全体で同一の低ストレッチスパニングツリーを再利用することで、各段階で再計算する必要を排除する。
• 条件数κを保つスペクトル類似性を維持するように変更されたスパース化ルーチンを用い、チェーンの構築を高速化する。
• エッジ重みの丸め処理を適用して、異なるエッジ長の数をO(log n)に制限し、HierarchicalStarPartitionによる効率的な再帰的分割を可能にする。
• 丸められたグラフ上でStarPartitionアルゴリズムにImpConeDecompを適用し、O~(m log n)時間で低ストレッチスパニングツリーを構築する。この際、ストレッチは定数倍の範囲内で保持される。

実験結果

リサーチクエスチョン

• RQ1 事前スケーリングチェーン構築の改善により、SDDソルバーの実行時間をO~(m log²n)からO~(m log n)に短縮できるか？
• RQ2 グラフスパース化および縮約の下で、非ツリー辺の全ストレッチが不変であるか。これにより、チェーン全体で同一のスパニングツリーを再利用可能か？
• RQ3 O~(m log n)時間でほぼタイトな低ストレッチスパニングツリーを構築できるか。これは従来のO(m log²n)の境界を改善するか？
• RQ4 エッジ重みの丸め処理は、階層的分割におけるストレッチ保持とアルゴリズム的効率にどのような影響を与えるか？
• RQ5 平均ストレッチO(1/log n)のスパインが多く含まれるグラフは、提案フレームワークを用いて線形時間で解けるか？

主な発見

• 提案されたSDDソルバーはO~(m log n log(1/ε))時間で実行され、従来のO~(m log²n)ソルバーに比べてlog nの高速化を達成する。
• 非ツリー辺の全ストレッチは、スパース化およびグラフ縮約の両方の下で不変であり、事前スケーリングチェーン全体で同一の低ストレッチスパニングツリーを再利用可能である。
• 新たなアルゴリズムにより、ほぼタイトな低ストレッチスパニングツリーがO~(m log n)時間で構築可能であり、従来のO(m log²n)法に比べてO(log n)の改善が達成される。
• 平均ストレッチO(1/log n)のスパインが多く含まれるグラフは、新フレームワークを用いて線形時間で解ける。
• エッジ重みの丸め処理により、異なるエッジ長の数がO(log n)に制限され、これによりHierarchicalStarPartitionアルゴリズムがO~(m log n)時間で実行可能となり、ストレッチは2倍の要因内に保持される。
• スパインが多く含まれるグラフから始まり、一様サンプリングを適用する滑らかなグラフの系列は、スパース化と削除の明確な分離を可能にし、事前スケーリングチェーンの構築を簡素化する。