[논문 리뷰] The Inverse Fast Multipole Method

Sivaram Ambikasaran, Eric Darve|arXiv (Cornell University)|2014. 07. 07.

Electromagnetic Scattering and Analysis참고 문헌 52인용 수 27

한 줄 요약

이 논문은 적분 방정식, 라디얼 기저 보간, 조밀한 공분산 행렬에서 유래하는 선형 시스템을 위한 새로운 $Ø(N)$ 직접 해법인 역속행성 다중체법(Inverse Fast Multipole Method, IFMM)을 소개한다. FMM 행렬을 더 크고 희박한 $M \times M$ 시스템($M \approx 3N$)으로 확장하고, 잘 분리된 클러스터 간 상호작용만 계층적으로 압축함으로써, 이전에 빠른 직접 해법의 성능 저하 원인이 되던 고랭크의 인접 클러스터 상호작용이 있는 문제들에서도 3차원 및 2차원 모두에서 선형 스케일링을 달성한다.

ABSTRACT

This article introduces a new fast direct solver for linear systems arising out of wide range of applications, integral equations, multivariate statistics, radial basis interpolation, etc., to name a few. \emph{The highlight of this new fast direct solver is that the solver scales linearly in the number of unknowns in all dimensions.} The solver, termed as Inverse Fast Multipole Method (abbreviated as IFMM), works on the same data-structure as the Fast Multipole Method (abbreviated as FMM). More generally, the solver can be immediately extended to the class of hierarchical matrices, denoted as $\mathcal{H}^2$ matrices with strong admissibility criteria (weak low-rank structure), i.e., \emph{the interaction between neighboring cluster of particles is full-rank whereas the interaction between particles corresponding to well-separated clusters can be efficiently represented as a low-rank matrix}. The algorithm departs from existing approaches in the fact that throughout the algorithm the interaction corresponding to neighboring clusters are always treated as full-rank interactions. Our approach relies on two major ideas: (i) The $N imes N$ matrix arising out of FMM (from now on termed as FMM matrix) can be represented as an extended sparser matrix of size $M imes M$, where $M \approx 3N$. (ii) While solving the larger extended sparser matrix, \emph{the fill-in's that arise in the matrix blocks corresponding to well-separated clusters are hierarchically compressed}. The ordering of the equations and the unknowns in the extended sparser matrix is strongly related to the local and multipole coefficients in the FMM~\cite{greengard1987fast} and \emph{the order of elimination is different from the usual nested dissection approach}. Numerical benchmarks on $2$D manifold confirm the linear scaling of the algorithm.

연구 동기 및 목표

• 적분 방정식과 계층 행렬에서 유래하는 조밀한 선형 시스템에 대해 $N$에 대해 선형으로 증가하는 복잡도를 가지는 빠른 직접 해법을 개발하는 것.
• 기존의 빠른 직접 해법이 인접 클러스터 상호작용의 랭크가 증가함에 따라 2차원 및 3차원에서 선형 스케일링을 달성하지 못하는 한계를 극복하는 것.
• FMM와 동일한 데이터 구조를 사용하는 해법을 통해 타원 PDE, 라디얼 기저 함수 보간, 가우시안 과정에서 유래하는 대규모 시스템을 효율적으로 해결할 수 있도록 하는 것.
• 강력한 적합성 기준을 갖는 $Ø^2$ 행렬에 대해, 비접촉 상호작용만을 압축함으로써 빠른 직접 해법의 적용 가능성을 확장하는 것.

제안 방법

• FMM의 $N \times N$ 행렬을 $M \approx 3N$인 더 큰 희박한 $M \times M$ 행렬로 표현함으로써 FMM의 계층 트리 구조를 유지한다.
• 알고리즘 전반에 걸쳐 인접 클러스터 간 상호작용을 전체 랭크로 취급하여 정확도를 제한하는 랭크 근사화를 피한다.
• 잘 분리된 클러스터 간 상호작용에 대해서만 계층적 압축을 적용하며, 강력한 적합성 조건 하에서 이러한 상호작용이 낮은 랭크임을 입증한다.
• 기존의 네스티드 디세션트와 다름없이 FMM의 국소 및 다중체 계수를 기반으로 한 새로운 소거 순서를 사용한다.
• 계층적 구조를 활용하여 분해 과정에서 발생하는 채움 블록을 압축함으로써 낮은 랭크 구조를 유지한다.
• 강력한 적합성 기준을 활용하여 $Ø^2$ 행렬로의 확장을 도모하며, 잘 분리된 클러스터 간 상호작용이 낮은 랭크임을 이용한다.

실험 결과

연구 질문

• RQ1 인접 클러스터 상호작용의 랭크가 높은 경우에도 2차원 및 3차원에서 FMM 행렬에 대한 직접 해법이 $Ø(N)$ 복잡도를 가지는가?
• RQ2 비접촉 클러스터 상호작용만을 압축하고 인접 상호작용은 전체 랭크로 취급함으로써 선형 스케일링을 유지할 수 있는가?
• RQ3 2차원 및 3차원에서 특이하거나 진동하는 그린 함수를 갖는 적분 방정식에 대해 IFMM는 어떻게 성능을 발휘하는가?
• RQ4 강력한 적합성 기준을 갖는 $Ø^2$ 행렬로 확장되었을 때 IFMM는 여전히 $Ø(N)$ 복잡도를 달성할 수 있는가?
• RQ5 실세계 문제인 라디얼 기저 함수 보간 및 공분산 행렬에서 IFMM의 수치적 성능은 기존의 HODLR 해법과 비교해 어떻게 되는가?

주요 결과

• IFMM는 2차원 및 3차원에서 FMM 행렬을 갖는 선형 시스템을 해결할 때 $Ø(N)$ 계산 복잡도를 달성하며, 인접 클러스터 상호작용의 랭크가 각각 $\mathcal{O}(\sqrt{N})$ 및 $\mathcal{O}(N^{2/3})$로 증가하는 경우에도 성립한다.
• 2차원 다각형 표면에서의 수치 벤치마크 결과 선형 스케일링이 확인되었으며, 모든 시험 문제 크기에서 해법 시간이 $N$에 대해 약 선형적으로 증가한다.
• ν=2.5인 Matérn 커널의 경우, $N=1000$에서 상대 오차 $10^{-13}$을 달성했으며, 해법 시간은 12.12초, 압축 랭크는 32였다.
• 조밀한 공분산 행렬 및 라디얼 기저 함수 보간 문제에서 IFMM는 속도와 정확도 면에서 HODLR를 능가했으며, $N=1000$에서 10배에서 100배의 속도 향상을 기록했다.
• 로그함수, 역거리, 진동하는 헬름홀츠 커널을 포함한 다양한 그린 함수에 대해 알고리즘이 안정적이고 정확하게 유지되었으며, 모든 경우에서 상대 오차가 $10^{-10}$ 이하였다.
• 희박한 행렬(예: 유한차분/유한요소 이산화에서 유래한)으로 자연스럽게 확장 가능하며, 이는 비접촉 클러스터에 대해 랭크가 0인 $Ø^2$ 행렬의 특수한 경우이기 때문이다.