[論文レビュー] Sparsified Cholesky Solvers for SDD linear systems

Yin Tat Lee, Richard Peng+1 more|arXiv (Cornell University)|Jun 26, 2015

Matrix Theory and Algorithms参考文献 14被引用数 22

ひとこと要約

この論文は、対称的対角優勢（SDD）およびラプラシアン行列のスパース化されたコレスキー分解を導入し、線形作業量と多対数的深さのソルバーを可能にしている。再帰的頂点スパース化とシュール補行列近似を用いることで、SDDシステムの解法にほぼ線形作業量と$O(\mathrm{polylog}\ n)$の深さを達成している。

ABSTRACT

We show that Laplacian and symmetric diagonally dominant (SDD) matrices can be well approximated by linear-sized sparse Cholesky factorizations. We show that these matrices have constant-factor approximations of the form $L L^{T}$, where $L$ is a lower-triangular matrix with a number of nonzero entries linear in its dimension. Furthermore linear systems in $L$ and $L^{T}$ can be solved in $O (n)$ work and $O(\log{n}\log^2\log{n})$ depth, where $n$ is the dimension of the matrix. We present nearly linear time algorithms that construct solvers that are almost this efficient. In doing so, we give the first nearly-linear work routine for constructing spectral vertex sparsifiers---that is, spectral approximations of Schur complements of Laplacian matrices.

研究の動機と目的

• SDD線形システムを解くためのほぼ線形作業量と多対数的深さのアルゴリズムの開発。
• スパース化されたコレスキー分解を用いてSDD行列のスパース近似逆行列を構築すること。
• シュール補行列のスペクトル的頂点スパース化器をほぼ線形時間で構築する再帰的フレームワークの設計。
• ソルバー構築における幾何級数的減少する行列サイズの使用により、条件数依存のない作業量と深さを達成すること。
• 条件数依存性を克服し、$n^{o(1)}$の深さで、ほぼ線形時間のアルゴリズムによるソルバー構築の提供。

提案手法

• 低次数の頂点部分集合の再帰的除去を用いて、スペクトル近似を維持したままグラフサイズを縮小する。
• 頂点削除後の残りのグラフのシュール補行列に対して、スペクトルスパース化（BSS12より）を適用する。
• SDD行列の逆行列を近似するための$O(n)$非ゼロ要素を持つスパースコレスキー型分解$\mathbf{L}\mathbf{L}^T$を構築する。
• 頂点スパース化器の再帰的チェーン構築を用いて、$O(\log^2 n \log\log n)$の深さと、各応用における$O(n)$の作業量を持つソルバーを構築する。
• より大きなグラフのシュール補行列近似を用いて、有界次数のグラフを模倣し、深さの低減を可能にする。
• 再帰的アルゴリズム$\textsc{RecursiveConstruct}_r$を導入し、$O(n^{o(1)})$の深さと$O(m\log n + n\log^{2+o(1)}n)$の作業量を持つソルバーを構築する。

実験結果

リサーチクエスチョン

• RQ1 SDD行列は、$O(n)$非ゼロ要素と線形作業量を持つスパースコレスキー分解で近似可能か？
• RQ2 SDDソルバーの深さと作業量は、条件数に依存しないようにできるか？
• RQ3 シュール補行列のスペクトル的頂点スパース化器は、ほぼ線形時間と多対数的深さで構築可能か？
• RQ4 再帰的スパース化とシュール補行列近似を用いて、ソルバーの深さを$n^{o(1)}$に低減可能か？
• RQ5 スパース化されたコレスキー分解における、構築作業量とソルバー深さのトレードオフは何か？

主な発見

• すべてのSDD行列は、定数要因の近似で逆行列を近似する$O(n)$非ゼロ要素を持つスパースコレスキー分解$\mathbf{L}\mathbf{L}^T$を有する。
• ソルバーは、$\mathbf{A}\mathbf{x} = \mathbf{b}$の$\epsilon$-近似解を$O(m\log\epsilon^{-1})$の作業量と$O(\log^2 n \log\log n \log\epsilon^{-1})$の深さで計算できる。
• 再帰的スパースファイアチェーンを用いたほぼ線形作業量と$O(n^{o(1)})$の深さのソルバーを構築でき、解法に$O(\log^{2+o(1)}n)$の深さを達成する。
• 構築時間は$r = \log\log\log n$と設定したとき、$O(m\log n + n\log^{2+o(1)}n)$であり、深さは$O(n^{o(1)})$である。
• 積近似における幾何級数的減少する行列サイズの使用により、条件数依存性を回避している。
• 本論文は、ラプラシアン行列のシュール補行列のスペクトル的頂点スパース化器を構築する最初のほぼ線形作業量のルーチンを提供している。