[논문 리뷰] Computation of the Response Surface in the Tensor Train data format

Sergey Dolgov, Boris N. Khoromskij외 2명|arXiv (Cornell University)|2014. 06. 11.

Tensor decomposition and applications참고 문헌 32인용 수 22

한 줄 요약

이 논문은 확률적 타원형 PDE에서 다항 chaos 전개(PCE) 계수를 계산하기 위한 텐서 트레이스(TT) 형식을 제안한다. 이는 저질서 압축을 통해 고차원 해를 효율적으로 계산할 수 있게 한다. 블록 크로스 근사와 교대 최소 에너지 알고리즘을 사용함으로써, 다항식 차수 p=5까지 높은 정확도를 달성하며, p에 대해 선형 스케일링과 안정적인 질서 감소 덕분에 희소 PCE보다 고차수 영역에서 뛰어난 성능을 발휘한다.

ABSTRACT

We apply the Tensor Train (TT) approximation to construct the Polynomial Chaos Expansion (PCE) of a random field, and solve the stochastic elliptic diffusion PDE with the stochastic Galerkin discretization. We compare two strategies of the polynomial chaos expansion: sparse and full polynomial (multi-index) sets. In the full set, the polynomial orders are chosen independently in each variable, which provides higher flexibility and accuracy. However, the total amount of degrees of freedom grows exponentially with the number of stochastic coordinates. To cope with this curse of dimensionality, the data is kept compressed in the TT decomposition, a recurrent low-rank factorization. PCE computations on sparse grids sets are extensively studied, but the TT representation for PCE is a novel approach that is investigated in this paper. We outline how to deduce the PCE from the covariance matrix, assemble the Galerkin operator, and evaluate some post-processing (mean, variance, Sobol indices), staying within the low-rank framework. The most demanding are two stages. First, we interpolate PCE coefficients in the TT format using a few number of samples, which is performed via the block cross approximation method. Second, we solve the discretized equation (large linear system) via the alternating minimal energy algorithm. In the numerical experiments we demonstrate that the full expansion set encapsulated in the TT format is indeed preferable in cases when high accuracy and high polynomial orders are required.

연구 동기 및 목표

• 고차원 매개변수 PDE에 대한 확률적 갈레르킨 방법에서 차원의 저주를 해결한다.
• 자유도 수가 지수적으로 증가하는 것을 방지하기 위해, 전체 다항 chaos 전개(PCE) 계수를 저질서 텐서 트레이스(TT) 표현으로 개발한다.
• TT 프레임워크 내에서 스위치 갈레르킨 행렬과 후처리(기댓값, 분산, 소볼 지수)를 효율적으로 계산할 수 있도록 한다.
• 높은 다항식 차수와 높은 정밀도 요구 사항에서, TT 형식의 전체 PCE가 희소 PCE보다 뛰어난 성능을 보임을 입증한다.

제안 방법

• 카르누넨-뢰브 전개(KLE)와 TT 근사를 사용하여 랜덤 필드 계수 κ(x,ω)를 텐서 트레이스(TT) 형식으로 표현한다.
• 각 확률적 변수별로 독립적인 다항식 차수를 가진 전체 다항 chaos 전개(PCE)를 구성하며, 이를 TT 형식으로 저장하여 저질서 구조를 유지한다.
• TT-Cross를 적용하여 적은 수의 샘플에서 PCE 계수를 보간함으로써, 저질서 구조를 유지한다.
• TT 성분에 대한 단변수 연산을 사용하여 TT 형식으로 스위치 갈레르킨 행렬을 정확히 구성함으로써, 다항식 차수를 두 배로 늘림.
• 결과로 생긴 대규모 선형 시스템을 TT 형식에서 교대 최소 에너지 알고리즘(AME)으로 해석한다.
• 기댓값, 분산, 등고선, 소볼 지수 등의 후처리 작업을 저질서 텐서 연산을 사용하여 TT 형식 그대로 직접 수행한다.

실험 결과

연구 질문

• RQ1 텐서 트레이스 형식은 고차원 확률적 PDE에서 전체 다항 chaos 전개를 효과적으로 표현할 수 있는가? 차원의 저주를 피할 수 있는가?
• RQ2 고차수 다항식에서, TT 기반 전체 PCE는 희소 PCE와 정확도 및 계산 비용 측면에서 어떻게 비교되는가?
• RQ3 전체 행렬 저장 없이도 TT 형식에서 스위치 갈레르킨 행렬을 효율적으로 구성하고 해석할 수 있는가?
• RQ4 TT 형식에서 직접 기댓값, 분산, 소볼 지수 등의 통계적 후처리 양상을 계산하는 것이 가능한가?
• RQ5 특히 p > 3일 때, 다항식 차수 p 증가에 따라 TT 방법이 유리하게 스케일링되는가?

주요 결과

• TT 형식은 PCE 계수에 대해 안정적이고 준최적의 저질서 압축을 가능하게 하며, 복잡도가 O(M n r³)로 스케일링되어 차원의 저주를 피한다.
• 다항식 차수 p ≥ 4일 경우, 초기 설정 비용이 더 높음에도 불구하고, TT 기반 전체 PCE는 정확도와 확장성 측면에서 희소 PCE를 능가한다.
• 블록 크로스 근사 방법은 몇 개의 샘플만으로도 TT 형식에서 PCE 계수를 성공적으로 보간하며, p=5 및 M=20일 때 상대 오차가 1e-4 이하로 유지된다.
• 다항식 차수를 두 배로 늘림으로써 스위치 갈레르킨 행렬을 TT 형식에서 정확히 구성할 수 있으며, 저장 용량은 O(M p² r²)로 다루기 가능하다.
• 기댓값, 분산, 등고선 등의 후처리 연산은 TT 형식 그대로 효율적으로 계산되며, 저질서 구조를 유지한다.
• 수치 실험 결과, TT 기반 해법은 p=1, M=10일 때 상대 오차 2.60e-2, p=4, M=30일 때 1.11e-4를 기록하며 고차수에서 뚜렷한 CPU 시간 절감 효과를 보였다.