[論文レビュー] Matrix Inversion Is As Easy As Exponentiation

Sushant Sachdeva, Nisheeth K. Vishnoi|arXiv (Cornell University)|May 2, 2013

Matrix Theory and Algorithms参考文献 5被引用数 6

ひとこと要約

この論文は、行列の指数関数への還元を、多項式対数的要因の範囲で、対称正定値行列の逆行列が、少数の行列指数関数の重み付き和として近似可能であることを示すことによって、対称正定値行列の逆行列と行列指数関数の間の同値性を確立する。主な結果は、オイラー＝マクローリンの公式とリーマン・ゼータ関数からの境界に依存し、ラプラシアンソルバーとグラフ問題の指数関数ベースのアルゴリズムの間で効率的な還元を可能にする。

ABSTRACT

We prove that the inverse of a positive-definite matrix can be approximated by a weighted-sum of a small number of matrix exponentials. Combining this with a previous result [OSV12], we establish an equivalence between matrix inversion and exponentiation up to polylogarithmic factors. In particular, this connection justifies the use of Laplacian solvers for designing fast semi-definite programming based algorithms for certain graph problems. The proof relies on the Euler-Maclaurin formula and certain bounds derived from the Riemann zeta function.

研究の動機と目的

• 対称正定値行列に対して、行列の逆行列と行列指数関数の間の同値性を確立すること。
• 半定値計画法およびグラフ問題の指数関数ベースのアルゴリズムにおけるラプラシアンソルバーの使用を正当化すること。
• スパースな行列指数関数の和として、行列の逆行列を構成的かつ明示的に近似すること。
• 近線形時間のラプラシアンソルバーの適用範囲を、グラフラプラシアンにとどまらず、一般の正定値行列へと拡張すること。
• 近似理論からの解析的技術を、理論的コンピュータサイエンスの研究者にアクセス可能にする。

提案手法

• 逆関数の近似を出発点として、$ x^{-1} = \int_0^\infty e^{-xt} dt $ という積分恒等式を用いる。
• オイラー＝マクローリンの公式を適用して、被積分関数の滑らかさを制御しながら、格子上の和に積分を離散化する。
• 関数 $ f_x(s) = e^s e^{-x e^s} $ の導関数を、$ x $ と導関数の成長を制御する補題を用いて評価する。
• 積分の上界を用いて尾部を切り詰め、誤差が $ \varepsilon $ 相対許容誤差内に収まるようにする。
• 行列 $ A $ に依存しない明示的な重み $ w_j $ と指数 $ t_j $ を構成する。これらは $ \varepsilon $ と $ \delta $ のみに依存する。
• 固有値分解を活用する。スカラー近似がすべての固有値 $ \lambda_i \in [\delta, 1] $ に対して成り立つので、固有ベクトルの和に沿って行列不等式が導かれる。

実験結果

リサーチクエスチョン

• RQ1 行列の逆行列は、多項式対数的オーバーヘッドの範囲で行列指数関数への還元が可能か？
• RQ2 指数関数ベースのアルゴリズムにおけるラプラシアンソルバーの使用は必須か、それとも逆転可能か？
• RQ3 正定値行列の逆行列は、スパースな行列指数関数の和として近似可能か？
• RQ4 このような近似の誤差を制御するために使用可能な解析的ツールは何か？
• RQ5 近似パラメータを行列に依存させずに精度を維持できるか？

主な発見

• 任意の対称正定値行列 $ A $ について、$ \delta I \preceq A \preceq I $ を満たす場合、逆行列 $ A^{-1} $ は、$ \mathrm{poly}(\log \frac{1}{\delta \varepsilon}) $ 個の行列指数関数の和によって $ \varepsilon $ 近似可能である。
• 近似における重み $ w_j $ と指数 $ t_j $ は $ A $ に依存せず、$ \varepsilon $ と $ \delta $ のみに依存し、明示的に構成可能である。
• 近似の誤差は、正定値順序で $ (1 \pm \varepsilon) $ に有界であり、行列レベルでの精度が保証される。
• この手法は、$ x^{-1} $ の変換された積分表現にオイラー＝マクローリンの公式を適用し、導関数の境界によって誤差を制御することに依存する。
• 無限和を区間 $ [A, B] $ に切り詰める際、尾部の誤差はそれぞれ $ \varepsilon / 3 $ 以下に抑えられ、主な誤差は $ 8e^{-2N} \cdot x^{-1} \leq \varepsilon x^{-1}/3 $ で有界である。
• 最終的な近似は $ \left| x^{-1} - h \sum_{j=A}^{B} e^{jh} e^{-x e^{jh}} \right| \leq \varepsilon x^{-1} $ を満たし、スカラー補題が証明され、したがって行列結果も証明される。