[論文レビュー] Tensor Numerical Methods for High-dimensional PDEs: Basic Theory and Initial Applications

Boris N. Khoromskij|arXiv (Cornell University)|Aug 18, 2014

Tensor decomposition and applications参考文献 112被引用数 9

ひとこと要約

本稿では、特にQTT（Quantics-TT）およびQTT-Tuckerを用いた低ランクテンソル形式に基づくテンソル数値法を導入し、高次元偏微分方程式（PDE）を$O(d\log N)$の対数体積複雑度で効率的に解く手法を提示する。3次元非線形ハートリー＝フォック方程式および20次元動的フォッカー＝プランク／マスター方程式を効率的に解き、時間方向に$O(\log N_t)$のスケーリングを達成し、$N=10^5$のグリッドと$10^6$個の原子を数秒でシミュレート可能である。

ABSTRACT

We present a brief survey on the modern tensor numerical methods for multidimensional stationary and time-dependent partial differential equations (PDEs). The guiding principle of the tensor approach is the rank-structured separable approximation of multivariate functions and operators represented on a grid. Recently, the traditional Tucker, canonical, and matrix product states (tensor train) tensor models have been applied to the grid-based electronic structure calculations, to parametric PDEs, and to dynamical equations arising in scientific computing. The essential progress is based on the quantics tensor approximation method proved to be capable to represent (approximate) function related $d$-dimensional data arrays of size $N^d$ with log-volume complexity, $O(d \log N)$. Combined with the traditional numerical schemes, these novel tools establish a new promising approach for solving multidimensional integral and differential equations using low-parametric rank-structured tensor formats. As the main example, we describe the grid-based tensor numerical approach for solving the 3D nonlinear Hartree-Fock eigenvalue problem, that was the starting point for the developments of tensor-structured numerical methods for large-scale computations in solving real-life multidimensional problems. We also address new results on tensor approximation of the dynamical Fokker-Planck and master equations in many dimensions up to $d=20$. Numerical tests demonstrate the benefits of the rank-structured tensor approximation on the aforementioned examples of multidimensional PDEs. In particular, the use of grid-based tensor representations in the reduced basis of atomics orbitals yields an accurate solution of the Hartree-Fock equation on large $N imes N imes N$ grids with a grid size of up to $N= 10^{5}$.

研究の動機と目的

• 高次元PDEを解く際の次元の呪いに対処し、格納容量と計算コストを$N^d$から$O(d\log N)$に削減する。
• 大規模な電子構造計算およびパラメトリック／確率的PDEに適したグリッドベースのテンソル法を開発する。
• 時間に依存するPDE、特に動的マスター方程式の効率的解法を、グローバル空間時間テンソルソルバを用いて実現する。
• 離散関数および演算子を大規模グリッド上で圧縮するためのquantics-TT（QTT）近似の有効性を示す。
• $N=10^5$までのグリッドで、ハートリー＝フォック方程式や格子電気的ポテンシャルといった多次元問題の高精度なシミュレーションを実現する。

提案手法

• d次元グリッド上の多次元関数および演算子を表すために、低ランクテンソル形式（Tucker、カノニカル、テンソルトレイン／TT、QTT）を用いる。
• q進展開による畳み込みと低ランク近似を用いて、$N^d$サイズの配列を$O(d\log N)$の格納容量に圧縮するquantics-TT（QTT）近似を適用する。
• フォッカー＝プランク方程式のような時間に依存するPDEを解くために、QTT-Tucker形式のグローバル空間時間テンソルソルバを用い、すべての時間ステップを同時に処理する。
• QTT形式における大規模な線形方程式系を解くためにAMEn反復法を実装し、収束閾値$\varepsilon=10^{-5}$を達成できる。
• 長時間シミュレーションにおけるメモリおよび計算負荷を管理するため、時間区間（例：$T_0=15$）ごとに再起動するグローバルソルバを適用する。
• 3次元格子上の電気的ポテンシャルの和算に、テンソルトレイン（TT）およびQTT形式を適用し、数百万個の原子に対して数秒で計算を完了した。

実験結果

リサーチクエスチョン

• RQ1 テンソルに基づく低ランク形式は、高次元PDEを解く計算コストを指数的から対数的複雑度に低減できるか？
• RQ2 大規模な$N^d$グリッド上での離散関数および演算子を、精度を保持しながら、quantics-TT（QTT）形式がどの程度圧縮できるか？
• RQ3 QTT-Tucker形式のグローバル空間時間テンソルソルバは、フォッカー＝プランク方程式のような高次元動的方程式をどの程度効果的に解けるか？
• RQ4 テンソル法は、ハートリー＝フォック方程式や大規模電気的ポテンシャル和算といった現実世界の問題を効率的に処理できるか？
• RQ5 特に$d \leq 20$の範囲で、グリッドサイズ$N$および次元$d$の観点から、テンソル法のスケーラビリティとパフォーマンスはどの程度か？

主な発見

• QTT形式により、対数体積複雑度$O(d\log N)$が達成され、格納容量を$N^d$から$O(d\log N)$に削減し、高次元問題の取り扱いが可能になった。
• ハートリー＝フォック固有値問題は、$N=10^5$のグリッド上で正確に解かれ、大規模な電子構造計算の実現可能性を示した。
• 10^6個の原子を含む3次元格子上の電気的ポテンシャル和算が、低ランクテンソル近似を用いて数秒で計算された。
• 20次元のキャスケードシグナリングネットワークでは、時間ステップ数$N_t$に対して解法時間のスケーリングが対数的であることが確認され、$O(\log N_t)$の複雑度が裏付けられた。
• 数値結果から、$T=400$での定常状態への収束が確認され、QTTランクの切断により収束閾値$\varepsilon=10^{-5}$が達成された。
• QTT-Tucker形式のグローバル空間時間ソルバは、$O(\log N_x \log N_t)$のスケーリングを達成し、理論的複雑度境界が実際の計算でも裏付けられた。