[논문 리뷰] Tensor Numerical Methods for High-dimensional PDEs: Basic Theory and Initial Applications

Boris N. Khoromskij|arXiv (Cornell University)|2014. 08. 18.

Tensor decomposition and applications참고 문헌 112인용 수 9

한 줄 요약

이 논문은 고차원 편미분방정식(PDE)을 해결하기 위해 저질서 텐서 형식—특히 QTT(Quantics-TT)와 QTT-Tucker—기반의 텐서 수치 해법을 제안한다. 이 방법은 볼륨 복잡도가 $O(d\log N)$인 로그 복잡도를 가지며, 3차원 비선형 하트리-폭크 및 20차원 동적 포크린-마스터 방정식을 효율적으로 해결한다. 시간에 대해 $O(\log N_t)$ 스케일링을 달성하여 $N=10^5$ 그리드와 10^6개 원자를 가진 시뮬레이션을 몇 초 내에 수행할 수 있다.

ABSTRACT

We present a brief survey on the modern tensor numerical methods for multidimensional stationary and time-dependent partial differential equations (PDEs). The guiding principle of the tensor approach is the rank-structured separable approximation of multivariate functions and operators represented on a grid. Recently, the traditional Tucker, canonical, and matrix product states (tensor train) tensor models have been applied to the grid-based electronic structure calculations, to parametric PDEs, and to dynamical equations arising in scientific computing. The essential progress is based on the quantics tensor approximation method proved to be capable to represent (approximate) function related $d$-dimensional data arrays of size $N^d$ with log-volume complexity, $O(d \log N)$. Combined with the traditional numerical schemes, these novel tools establish a new promising approach for solving multidimensional integral and differential equations using low-parametric rank-structured tensor formats. As the main example, we describe the grid-based tensor numerical approach for solving the 3D nonlinear Hartree-Fock eigenvalue problem, that was the starting point for the developments of tensor-structured numerical methods for large-scale computations in solving real-life multidimensional problems. We also address new results on tensor approximation of the dynamical Fokker-Planck and master equations in many dimensions up to $d=20$. Numerical tests demonstrate the benefits of the rank-structured tensor approximation on the aforementioned examples of multidimensional PDEs. In particular, the use of grid-based tensor representations in the reduced basis of atomics orbitals yields an accurate solution of the Hartree-Fock equation on large $N imes N imes N$ grids with a grid size of up to $N= 10^{5}$.

연구 동기 및 목표

• 저장소 및 계산 비용을 $N^d$에서 $O(d\log N)$로 감소시켜 고차원 PDE 해법의 차원의 극복 문제를 해결한다.
• 대규모 전자 구조 계산 및 매개변수적/스토케스틱 PDE를 위한 그리드 기반 텐서 방법을 개발한다.
• 모든 시간 단계를 동시에 처리하는 글로벌 공간-시간 텐서 솔버를 통해 시간에 의존하는 PDE의 효율적 해법을 가능하게 한다.
• 큰 그리드에서 이산 함수 및 연산자의 압축에 대해 quantics-TT(QTT) 근사의 효과를 입증한다.
• $N=10^5$에 이르는 그리드에서 고차원 문제—예를 들어 하트리-폭크 및 격자 전기장 계산—에 대한 고정밀 시뮬레이션을 수행한다.

제안 방법

• d차원 그리드에서 다변수 함수 및 연산자를 표현하기 위해 저질서 텐서 형식(Tucker, 캐논리컬, 텐서 트레인/TT, QTT)을 사용한다.
• q-adic 접기와 저질서 근사 기법을 통해 $N^d$ 크기의 배열을 $O(d\log N)$ 저장소로 압축하기 위해 quantics-TT(QTT) 근사를 적용한다.
• 공간-시간 텐서 솔버를 QTT-Tucker 형식으로 적용하여 포크린-플랑크 방정식과 같은 시간에 의존하는 PDE를 풀며, 모든 시간 단계를 동시에 처리한다.
• QTT 형식에서 대규모 선형 연립방정식을 풀기 위해 AMEn 반복법을 구현하여 $\varepsilon=10^{-5}$ 임계값에서 수렴 가능하게 한다.
• 장기 시뮬레이션에서 메모리 및 계산 부담을 관리하기 위해 시간 하위구간(예: $T_0=15$)에서 재시작 가능한 글로벌 솔버를 적용한다.
• 3차원 격자 전기장 잠재 에너지의 합산에 대해 텐서 트레인(TT) 및 QTT 형식을 적용하여 수백만 개 원자를 가진 시스템에서 몇 초 내에 계산을 완료한다.

실험 결과

연구 질문

• RQ1 텐서 기반 저질서 형식이 고차원 PDE 해법의 계산 비용을 지수적 복잡도에서 로그 복잡도로 감소시킬 수 있는가?
• RQ2 큰 $N^d$ 그리드에서 quantics-TT(QTT) 형식이 이산 함수 및 연산자를 얼마나 효과적으로 압축하면서 정확도를 유지할 수 있는가?
• RQ3 QTT-Tucker 형식의 글로벌 공간-시간 텐서 솔버가 포크린-플랑크 방정식과 같은 고차원 동적 방정식 해법에 얼마나 효과적인가?
• RQ4 텐서 방법이 하트리-폭크 방정식 및 대규모 전기장 잠재 에너지 합산과 같은 실제 문제를 효율적으로 다룰 수 있는가?
• RQ5 특히 $d \leq 20$일 때, 그리드 크기 $N$과 차원 $d$에 대해 텐서 방법의 확장성과 성능은 어떠한가?

주요 결과

• QTT 형식은 $O(d\log N)$의 로그 볼륨 복잡도를 가능하게 하여 저장소를 $N^d$에서 $O(d\log N)$로 감소시켜 고차원 문제를 해결 가능하게 한다.
• 하트리-폭크 고유값 문제는 $N=10^5$ 그리드에서 정확하게 해결되었으며, 이는 대규모 전자 구조 계산의 가능성을 입증한다.
• 10^6개 원자를 포함한 3차원 격자 전기장 잠재 에너지 합산은 저질서 텐서 근사를 통해 몇 초 내에 계산되었다.
• 20차원의 카스케이드 신호 전파 네트워크에서 해의 시간 복잡도는 시간 단계 수($N_t$)에 대해 로그 스케일링을 보였으며, $O(\log N_t)$ 복잡도가 확인되었다.
• 수치 결과는 $T=400$ 동안 안정 상태에 수렴하며, QTT-랭크 절단을 통해 $\varepsilon=10^{-5}$ 임계값에 도달함을 보여준다.
• QTT-Tucker 형식의 글로벌 공간-시간 솔버는 $O(\log N_x \log N_t)$ 스케일링을 달성하여 이론적 복잡도 경계가 실제로도 성립함을 확인한다.