[論文レビュー] Butterfly factorization via randomized matrix-vector multiplications

Yang Liu, Xin Xing+4 more|arXiv (Cornell University)|Feb 9, 2020

Matrix Theory and Algorithms参考文献 27被引用数 9

ひとこと要約

本稿では、行列ベクトル乗算のみを用いて、大規模で高周波数成分を有する行列のバタフライ分解を、適応的かつランダム化されたアルゴリズムで計算する手法を提案する。行列およびその転置行列を構造的ランダムベクトルに作用させることで、$O(n^{3/2}\text{log}n)$ の計算量と $O(n\text{log}n)$ のメモリ使用量を達成し、厳密な誤差境界と並列スケーラビリティを備え、高周波数波動問題の効率的解法を可能にする。

ABSTRACT

This paper presents an adaptive randomized algorithm for computing the butterfly factorization of a $m imes n$ matrix with $m\approx n$ provided that both the matrix and its transpose can be rapidly applied to arbitrary vectors. The resulting factorization is composed of $O(\log n)$ sparse factors, each containing $O(n)$ nonzero entries. The factorization can be attained using $O(n^{3/2}\log n)$ computation and $O(n\log n)$ memory resources. The proposed algorithm applies to matrices with strong and weak admissibility conditions arising from surface integral equation solvers with a rigorous error bound, and is implemented in parallel.

研究の動機と目的

• 高周波数積分方程式に由来する行列のバタフライ分解を構築するための高速かつメモリ効率の良いアルゴリズムの開発。
• 3次元表面積分方程式ソルバーに由来するような、弱い許容条件を満たす行列に対して、従来の方法の高い計算コストを解消すること。
• 行列サイズに伴い弱く増加する誤差境界を提供し、問題スケールを問わず精度を保証すること。
• 大規模な科学技術計算アプリケーションに向けた並列展開を可能にすること。

提案手法

• 構造的ランダムベクトルを用いて行列およびその転置をプローブし、明示的な行列アクセスなしに部分行列の低ランク近似を可能にする。
• 階層的バタフライ構造に基づき、部分行列を適応的に選択し、再帰的に低ランクブロックに分解する。
• ランダム化投影を用いて正規直交な行および列基底を計算し、フルなSVDを回避することでメモリ使用量を削減する。
• 従来の要因分解構築順序とは逆に、ランダムベクトルから必要な情報のみを保存することで、$O(n\text{log}n)$ のメモリ使用量を達成する。
• ブラックボックス型の行列ベクトル乗算を活用しており、行列要素が明示的に利用できない演算子に対しても適用可能である。
• 直交投影の議論を統合し、行列サイズに弱く依存する誤差境界を厳密に導出する。

実験結果

リサーチクエスチョン

• RQ1 弱い許容条件を満たす行列、例えば3次元Helmholtz積分方程式に由来するような行列に対して、バタフライ分解を効率的に構築できるか。
• RQ2 行列ベクトル乗算のみが利用可能な場合、バタフライ分解の構築にかかる計算コストとメモリコストは何か。
• RQ3 ランダム化アルゴリズムは、大規模なバタフライ分解において、高い精度と低いメモリ使用量を両立できるか。
• RQ4 誤差は行列サイズおよび許容誤差にどのように依存するか。
• RQ5 分散メモリアーキテクチャ向けに、このアルゴリズムは効率的に並列化可能か。

主な発見

• 提案手法は $O(n^{3/2}\text{log}n)$ の計算量と $O(n\text{log}n)$ のメモリ使用量を達成し、従来の $O(n^{3/2})$ メモリ手法に比べ顕著な改善を示す。
• サイズ150万（$n=1.5\times10^6$）の行列に対して、$\epsilon=10^{-2}$ 時にメモリ使用量は2.82 GB、計算時間は367秒であり、観測ランクは250であった。
• 分解の誤差は行列サイズに伴い弱く増加するが、全テスト許容誤差（$\epsilon=10^{-2}, 10^{-3}, 10^{-4}$）において望みの精度を達成した。
• 参照手法と比較してメモリ使用量を削減し、観測されたメモリ使用量はランクに対して $O(n^{0.25})$ のスケーリングに従い、理論的期待と整合的であった。
• 計算時間は問題サイズに伴い良好にスケーリングされ、Coriノード上で64 MPIプロセスにわたる並列実行が著しく効率的であった。
• 強および弱い許容条件の両方を満たす2次元および3次元Helmholtz問題に対し、本手法はバタフライ分解を成功裏に計算し、強力なロバストネスを示した。