[論文レビュー] The Inverse Fast Multipole Method

Sivaram Ambikasaran, Eric Darve|arXiv (Cornell University)|Jul 7, 2014

Electromagnetic Scattering and Analysis参考文献 52被引用数 27

ひとこと要約

本稿では、積分方程式、径数基底関数補間、密な共分散行列から生じる線形方程式系のための新しい $Ø(N)$ 直接解法である逆高速多重極法（IFMM）を紹介する。FMM行列をより大きなスパースな $M \times M$ 行列（$M \approx 3N$）に拡張し、隣接しないクラスタ間の相互作用のみを階層的に圧縮することで、2次元および3次元においても線形スケーリングを達成する。これは、高ランクの隣接クラスタ相互作用が生じる問題に対しても、従来の高速直接解法のボトルネックであった点を克服するものである。

ABSTRACT

This article introduces a new fast direct solver for linear systems arising out of wide range of applications, integral equations, multivariate statistics, radial basis interpolation, etc., to name a few. \emph{The highlight of this new fast direct solver is that the solver scales linearly in the number of unknowns in all dimensions.} The solver, termed as Inverse Fast Multipole Method (abbreviated as IFMM), works on the same data-structure as the Fast Multipole Method (abbreviated as FMM). More generally, the solver can be immediately extended to the class of hierarchical matrices, denoted as $\mathcal{H}^2$ matrices with strong admissibility criteria (weak low-rank structure), i.e., \emph{the interaction between neighboring cluster of particles is full-rank whereas the interaction between particles corresponding to well-separated clusters can be efficiently represented as a low-rank matrix}. The algorithm departs from existing approaches in the fact that throughout the algorithm the interaction corresponding to neighboring clusters are always treated as full-rank interactions. Our approach relies on two major ideas: (i) The $N imes N$ matrix arising out of FMM (from now on termed as FMM matrix) can be represented as an extended sparser matrix of size $M imes M$, where $M \approx 3N$. (ii) While solving the larger extended sparser matrix, \emph{the fill-in's that arise in the matrix blocks corresponding to well-separated clusters are hierarchically compressed}. The ordering of the equations and the unknowns in the extended sparser matrix is strongly related to the local and multipole coefficients in the FMM~\cite{greengard1987fast} and \emph{the order of elimination is different from the usual nested dissection approach}. Numerical benchmarks on $2$D manifold confirm the linear scaling of the algorithm.

研究の動機と目的

• 積分方程式および階層行列から生じる密行列線形方程式系に対して、$N$ に比例する計算量でスケーリングする高速直接解法の開発。
• 2次元および3次元において、隣接クラスタ相互作用のランクが増加するため、既存の高速直接解法が線形スケーリングを達成できないという制限を克服すること。
• 楕円型偏微分方程式、径数基底関数補間、ガウス過程から生じる大規模な線形方程式系を、FMMと同一のデータ構造で処理可能な解法を提供すること。
• 強い適性基準を満たす $Ø^2$ 行列への適用を拡張し、非隣接相互作用のみを圧縮することで、高速直接解法の適用範囲を広げること。

提案手法

• FMM行列を $M \approx 3N$ の拡張された $M \times M$ スパース行列に表現し、FMMの階層的木構造を保持する。
• アルゴリズム全体を通して隣接クラスタ間の相互作用をフルランクとして扱い、精度を制限するランク近似を回避する。
• 適切に分離されたクラスタ間の相互作用にのみ階層的圧縮を適用し、強い適性条件下では低ランクであることが示されている。
• FMMの局所係数および多重極係数に基づく、従来のネストドィセクションとは異なる新しい消去順序を採用する。
• 階層的構造を活用して、因子分解中に生じるフィルインブロックを圧縮し、低ランク構造を維持する。
• 強い適性基準を活用することで、$Ø^2$ 行列への拡張を図り、適切に分離されたクラスタ間の相互作用が低ランクであることを活かす。

実験結果

リサーチクエスチョン

• RQ1 隣接クラスタ相互作用が高ランクである場合でも、2次元および3次元においてFMM行列の直接解法が $Ø(N)$ の計算量で実現可能か？
• RQ2 隣接クラスタ相互作用をフルランクとして扱い、非隣接相互作用のみを圧縮することで、線形スケーリングを維持できるか？
• RQ3 2次元および3次元における特異的または振動的グリーン関数を有する積分方程式に対して、IFMMはどのように性能を発揮するか？
• RQ4 強い適性基準を満たす $Ø^2$ 行列へと拡張した場合でも、IFMMが $Ø(N)$ の計算量を達成できるか？
• RQ5 実世界の問題、例えば径数基底関数補間や共分散行列に対して、IFMMはHODLRなどの既存の解法と比較して、数値的性能に優れているか？

主な発見

• IFMMは、2次元および3次元において、隣接クラスタ相互作用のランクがそれぞれ $\mathcal{O}(\sqrt{N})$ および $\mathcal{O}(N^{2/3})$ にまで増加する場合でも、FMM行列を用いた線形方程式系の解法において $Ø(N)$ の計算量を達成する。
• 2次元多様体上での数値ベンチマークにより、線形スケーリングが確認され、全テスト問題サイズにおいて解法時間は $N$ にほぼ比例して増加した。
• Matérnカーネル（$\nu=2.5$）に対して、$N=1000$ 時に相対誤差 $10^{-13}$ を達成し、解法時間は12.12秒、圧縮ランクは32であった。
• 密な共分散行列および径数基底関数補間問題において、IFMMはHODLRを上回る速度と精度を示し、$N=1000$ 時に10倍から100倍の高速化を達成した。
• 対数的、逆距離的、振動的ヘルムホルツカーネルを含むさまざまなグリーン関数に対して、アルゴリズムは安定性と精度を維持し、相対誤差がすべてのケースで $10^{-10}$ 未満であった。
• 本手法は、非隣接クラスタにゼロランクを有する特殊な場合として、スパース行列（有限差分/有限要素離散化から生じる）にも自然に拡張可能である。