[论文解读] Tensor Numerical Methods for High-dimensional PDEs: Basic Theory and Initial Applications

Boris N. Khoromskij|arXiv (Cornell University)|Aug 18, 2014

Tensor decomposition and applications参考文献 112被引用 9

一句话总结

该论文提出基于低秩张量格式的张量数值方法——特别是量化TT（QTT）和QTT-Tucker格式——以解决高维偏微分方程（PDEs），实现$O(d\log N)$的对数体积复杂度。该方法高效求解了3D非线性Hartree-Fock方程和20D动力学Fokker-Planck/主方程，时间维度实现$O(\log N_t)$缩放，可在秒级内完成$N=10^5$网格、$10^6$个原子的模拟。

ABSTRACT

We present a brief survey on the modern tensor numerical methods for multidimensional stationary and time-dependent partial differential equations (PDEs). The guiding principle of the tensor approach is the rank-structured separable approximation of multivariate functions and operators represented on a grid. Recently, the traditional Tucker, canonical, and matrix product states (tensor train) tensor models have been applied to the grid-based electronic structure calculations, to parametric PDEs, and to dynamical equations arising in scientific computing. The essential progress is based on the quantics tensor approximation method proved to be capable to represent (approximate) function related $d$-dimensional data arrays of size $N^d$ with log-volume complexity, $O(d \log N)$. Combined with the traditional numerical schemes, these novel tools establish a new promising approach for solving multidimensional integral and differential equations using low-parametric rank-structured tensor formats. As the main example, we describe the grid-based tensor numerical approach for solving the 3D nonlinear Hartree-Fock eigenvalue problem, that was the starting point for the developments of tensor-structured numerical methods for large-scale computations in solving real-life multidimensional problems. We also address new results on tensor approximation of the dynamical Fokker-Planck and master equations in many dimensions up to $d=20$. Numerical tests demonstrate the benefits of the rank-structured tensor approximation on the aforementioned examples of multidimensional PDEs. In particular, the use of grid-based tensor representations in the reduced basis of atomics orbitals yields an accurate solution of the Hartree-Fock equation on large $N imes N imes N$ grids with a grid size of up to $N= 10^{5}$.

研究动机与目标

• 通过将存储和计算成本从$N^d$降低至$O(d\log N)$，解决高维PDE求解中的维数灾难问题。
• 开发基于网格的张量方法，用于大规模电子结构计算及参数化/随机PDE。
• 通过全局时空张量求解器，实现对时间依赖PDE（包括动力学主方程）的高效求解。
• 展示量化TT（QTT）近似在压缩大网格上离散函数和算子方面的有效性。
• 在$N=10^5$的网格上实现高精度模拟多维问题（如Hartree-Fock和晶格静电势），实现高精度模拟。

提出的方法

• 采用低秩张量格式（Tucker、CANDECOMP/PARAFAC、张量列车/TT、QTT）表示$d$维网格上的多变量函数和算子。
• 利用量化TT（QTT）近似，通过$q$-进制折叠和低秩逼近，将$N^d$大小的数组压缩至$O(d\log N)$的存储空间。
• 在QTT-Tucker格式下应用全局时空张量求解器，求解时间依赖PDE（如Fokker-Planck方程），同时处理所有时间步长。
• 实现AMEn迭代方法求解QTT格式下的大规模线性系统，实现$\varepsilon=10^{-5}$阈值下的收敛。
• 在长时间模拟中，通过在时间子区间（如$T_0=15$）上使用重启的全局求解器，管理内存和计算负载。
• 将张量列车（TT）和QTT格式应用于3D晶格静电势求和，实现百万原子量级的计算在亚秒内完成。

实验结果

研究问题

• RQ1 基于张量的低秩格式能否将求解高维PDE的计算成本从指数级降低至对数级复杂度？
• RQ2 量化TT（QTT）格式在保持精度的前提下，对$N^d$大网格上的离散函数和算子压缩程度如何？
• RQ3 QTT-Tucker格式下的全局时空张量求解器在求解高维动力学方程（如Fokker-Planck方程）方面效果如何？
• RQ4 张量方法能否高效处理Hartree-Fock方程和大规模静电势求和等实际问题？
• RQ5 在网格大小$N$和维度$d$方面，张量方法的可扩展性和性能如何，特别是当$d \leq 20$时？

主要发现

• QTT格式实现了$O(d\log N)$的对数体积复杂度，将存储需求从$N^d$降低至$O(d\log N)$，使高维问题变得可处理。
• 在$N^d$网格上，$N=10^5$时准确求解了Hartree-Fock特征值问题，证明了其在大规模电子结构计算中的可行性。
• 利用低秩张量逼近，对$10^6$个原子的3D晶格静电势求和在数秒内完成。
• 对于20D级联信号网络，求解时间随时间步数$N_t$呈对数缩放，证实了$O(\log N_t)$复杂度。
• 数值结果表明，系统在$T=400$时收敛至稳态，通过QTT秩截断实现$\varepsilon=10^{-5}$的解阈值。
• QTT-Tucker格式下的全局时空求解器实现了$O(\log N_x \log N_t)$的缩放，实证验证了理论复杂度边界的正确性。