[論文レビュー] Randomized matrix-free quadrature: unified and uniform bounds for stochastic Lanczos quadrature and the kernel polynomial method

Tyler Chen, Thomas Trogdon+1 more|arXiv (Cornell University)|Apr 5, 2022

Tensor decomposition and applications被引用数 5

ひとこと要約

本稿は、ランダム化された行列フリーな四則積分法の統一的理論的枠組みを提示する。これには、確率的ランチョス四則積分法とカーネル多項式法が含まれ、Krylov部分空間法を用いてスピンスペクトル和を等方的ランダムベクトルによって推定する手法の分析に基づく。主な貢献は、これらの広く使われているアルゴリズムの間のトレードオフを統一的かつ明確にする、非漸近的で一様な近似誤差の境界を提供することであり、特にカーネル多項式法におけるパラメータ選定に関して顕著である。

ABSTRACT

We analyze randomized matrix-free quadrature algorithms for spectrum and spectral sum approximation. The algorithms studied include the kernel polynomial method and stochastic Lanczos quadrature, two widely used methods for these tasks. Our analysis of spectrum approximation unifies and simplifies several one-off analyses for these algorithms which have appeared over the past decade. In addition, we derive bounds for spectral sum approximation which guarantee that, with high probability, the algorithms are simultaneously accurate on all bounded analytic functions. Finally, we provide comprehensive and complimentary numerical examples. These examples illustrate some of the qualitative similarities and differences between the algorithms, as well as relative drawbacks and benefits to their use on different types of problems.

研究の動機と目的

• スピンスペクトル和およびスペクトル近似に用いられるランダム化された行列フリー四則積分アルゴリズムを理解するための統一的理論的枠組みを提供すること。
• 2次形式のKrylov部分空間近似の観点から、確率的ランチョス四則積分法とカーネル多項式法の共通構造を分析すること。
• 両手法に適用可能な非漸近的かつ一様な誤差境界を導出することにより、それらの比較とトレードオフに関する明確な洞察を得ること。
• 理論的誤差境界に基づき、カーネル多項式法におけるパラメータ選定のための新たな実用的ガイダンスを提供すること。
• これらの手法の収束特性と、区間 [-1,1] 上の減衰付きチェビシェフ近似の性質との間の関係を確立すること。

提案手法

• 本手法は、エルミート行列 $ \mathbf{A} $ と実数値関数 $ f $ に対して、二次形式 $ \mathbf{v}^\text{H} f(\mathbf{A}) \mathbf{v} $ の独立同一分布なサンプルを等方的ランダムベクトルを用いて生成する。
• 各サンプル $ \mathbf{v}^\text{H} f(\mathbf{A}) \mathbf{v} $ の近似にKrylov部分空間法を適用し、行列の逆行列や固有値分解を明示的に行わずに、効率的な計算を可能にする。
• この枠組みでは、確率的ランチョス四則積分法とカーネル多項式法を、四則積分重みと射影戦略の選択の違いのみで区別する、一般的手法の特殊ケースとして扱う。
• 減衰付き三角多項式の近似誤差を分析することで、一様な誤差境界を導出する。この分析では、チェビシェフ多項式およびそのノード補間の性質を活用する。
• 区間 $[-1,1]$ から単位円への写像を用いることで、問題を三角近似に還元し、減衰付きフーリエ級数の収束に関する既知の結果を適用可能にする。
• 主な技術的ツールは、関数 $ f $ を補間または射影する減衰付きチェビシェフ近似 $ p_n^\circ(x) $ の構築であり、1-Lipschitz関数に対して誤差が $ \frac{\pi^2}{2} n^{-1} $ で抑えられることを示す。

実験結果

リサーチクエスチョン

• RQ1 確率的ランチョス四則積分法とカーネル多項式法を、単一の理論的枠組みで統一することは可能か？
• RQ2 これらの行列フリー四則積分法の収束を支配する、一様かつ非漸近的な誤差境界は何か？
• RQ3 これらの手法の近似誤差は、チェビシェフ多項式の性質およびその減衰係数とどのように関係しているか？
• RQ4 この枠組みは、カーネル多項式法における最適なパラメータ選定にどのような洞察を提供するか？
• RQ5 異なる行列関数や問題サイズにわたるランダム化された行列フリー四則積分の収束を、一様に分析することは可能か？

主な発見

• 本稿では、カーネル多項式法に用いられる減衰付きチェビシェフ近似に対して、区間 $[-1,1]$ 上の1-Lipschitz関数に対して $ \frac{\pi^2}{2} n^{-1} $ の一様誤差境界を確立する。
• 誤差境界は、問題を単位円に写像し、減衰付き三角多項式の収束を分析することで導出され、減衰係数 $ \rho_k $ は $ \frac{k\pi}{n+2} $ の三角関数で明示的に定義される。
• この枠組みにより、確率的ランチョス四則積分法とカーネル多項式法が、四則積分重みとKrylov射影の選択の違いのみで区別される同一の一般的アルゴリズム構造の特殊ケースであることが示される。
• 分析により、カーネル多項式法の誤差は、チェビシェフ多項式の減衰付き近似の品質に根本的に依存しており、多項式次数の選定の理論的根拠が得られる。
• 減衰近似の誤差に対する境界 $ \frac{\pi^2}{2}(n+2)^{-1} $ は、定数因子の範囲でタイトであることが示され、$ (1 - \rho_1)^{1/2} \leq \sqrt{2} \cdot \frac{\pi}{2n+4} $ が成り立ち、最終的な誤差境界が得られる。
• 結果として、望ましい精度を達成するためのカーネル多項式法における多項式次数 $ n $ の選定に実用的ガイドラインが提供され、誤差が $ O(n^{-1}) $ の割合で減少することが示される。