[論文レビュー] Sparse recovery of elliptic solvers from matrix-vector products

Florian Schäfer, Houman Owhadi|arXiv (Cornell University)|Oct 11, 2021

Advanced Numerical Methods in Computational Mathematics被引用数 4

ひとこと要約

本稿では、楕円型PDEの解法におけるスパースなコレスキー因子分解を、𝒪(log N log^d(N/ε))の行列-ベクトル積のみを用いて回復する新しいアルゴリズムを提示する。これにより、高精度で並列的かつ圧縮可能な解作用素近似が可能になる。本手法は、高次の作用素や粗い係数を持つ作用素に対しても、最小限のブラックボックスクエリで近似的に最適な精度を達成する。

ABSTRACT

In this work, we show that solvers of elliptic boundary value problems in $d$ dimensions can be approximated to accuracy $ε$ from only $\mathcal{O}\left(\log(N)\log^{d}(N / ε) ight)$ matrix-vector products with carefully chosen vectors (right-hand sides). The solver is only accessed as a black box, and the underlying operator may be unknown and of an arbitrarily high order. Our algorithm (1) has complexity $\mathcal{O}\left(N\log^2(N)\log^{2d}(N / ε) ight)$ and represents the solution operator as a sparse Cholesky factorization with $\mathcal{O}\left(N\log(N)\log^{d}(N / ε) ight)$ nonzero entries, (2) allows for embarrassingly parallel evaluation of the solution operator and the computation of its log-determinant, (3) allows for $\mathcal{O}\left(\log(N)\log^{d}(N / ε) ight)$ complexity computation of individual entries of the matrix representation of the solver that, in turn, enables its recompression to an $\mathcal{O}\left(N\log^{d}(N / ε) ight)$ complexity representation. As a byproduct, our compression scheme produces a homogenized solution operator with near-optimal approximation accuracy. By polynomial approximation, we can also approximate the continuous Green's function (in operator and Hilbert-Schmidt norm) to accuracy $ε$ from $\mathcal{O}\left(\log^{1 + d}\left(ε^{-1} ight) ight)$ solutions of the PDE. We include rigorous proofs of these results. To the best of our knowledge, our algorithm achieves the best known trade-off between accuracy $ε$ and the number of required matrix-vector products.

研究の動機と目的

• 従来の行列-ベクトル積サンプリングによる楕円型PDEの解作用素の完全再構成における高い計算コストに対処すること。
• 有限要素法や有限差分法などの離散化された楕円型作用素の逆作用素を、解法へのブラックボックスクエリを最小限に抑えて近似する手法を開発すること。
• スパースで圧縮可能なコレスキー因子分解を用いて、解作用素、その対数行列式、および個々の行列成分の効率的計算を可能にすること。
• 最悪ケース設定において、精度εと必要な行列-ベクトル積の数の間で、証明可能に最適なトレードオフを達成すること。
• 非自己随伴作用素および複雑な幾何構造（混合境界条件を含む有限要素モデルを含む）への適用可能性を拡張すること。

提案手法

• 多項式近似とランダム化サンプリングを活用し、𝒪(log N log^d(N/ε))の行列-ベクトル積から、逆作用素のスパースコレスキー因子分解を構築する。
• グリーン関数の構造とコレスキー因子の指数的減衰性を活用して、解作用素のスパース近似を可能にする。
• 適切に選ばれた右辺を用いたランダム化サンプリングスキームを適用し、低ランクかつスパースな形式で逆作用素を回復する。
• 𝒪(N log^d(N/ε))の非ゼロ成分を持つ圧縮表現を構築し、効率的な評価と再圧縮を可能にする。
• スパースコレスキー因子分解を用いて、1つの行列成分あたり𝒪(log N log^d(N/ε))のコストで逆行列の個々の成分を計算する。
• 行列-ベクトル積および行列転置-ベクトル積を用いたLU因子分解回復により、非自己随伴作用素へのフレームワークの拡張を実現する。

実験結果

リサーチクエスチョン

• RQ1 線形楕円型PDEの解作用素を、Nよりもはるかに少ない行列-ベクトル積で、精度εに近似的に近似できるか？
• RQ2 ブラックボックスクエリを𝒪(log N log^d(N/ε))回のみで、逆作用素のスパースかつ圧縮可能なコレスキー因子分解を構築できるか？
• RQ3 滑らかでない仮定（例えば、粗い係数や非局所作用素）のもとでも、本手法が高精度かつロバスト性を維持できるか？
• RQ4 逆行列の個々の成分を効率的に計算でき、低コストな行列圧縮および対数行列式の計算を可能にするか？
• RQ5 非自己随伴楕円型作用素および複雑な幾何構造（複雑な境界条件やメッシュを含む有限要素離散化）への適用が可能か？

主な発見

• アルゴリズムは、オペレータノルムおよびヒルベルト＝シュミットノルムにおいて、𝒪(log^{1+d}(ε^{-1}))の行列-ベクトル積で解作用素のε-精度回復を達成する。
• 回復されたコレスキー因子分解は𝒪(N log(N) log^d(N/ε))の非ゼロ成分を有し、解作用素の評価を𝒪(N log²(N) log²d(N/ε))の時間で可能にする。
• 逆行列の個々の成分は1つあたり𝒪(log N log^d(N/ε))のコストで計算可能であり、𝒪(N log^d(N/ε))の複雑度への効率的な行列圧縮を可能にする。
• 従来手法に比べ、特に最悪ケース設定において、サンプル複雑度に指数的改善を達成しており、パワー法に基づく低ランク近似を凌駆する。
• 本手法は、高対比係数（例：対比比 ~10⁴）や非局所的分数階ラプラシアンに対してもロバストであり、近似的に最適な近似レートを達成する。
• フレームワークにより、解作用素の明示的並列評価と、ガウス過程推論に不可欠な対数行列式の効率的計算が可能になる。