[论文解读] Computation of the Response Surface in the Tensor Train data format

Sergey Dolgov, Boris N. Khoromskij+2 more|arXiv (Cornell University)|Jun 11, 2014

Tensor decomposition and applications参考文献 32被引用 22

一句话总结

本文提出一种张量列车（TT）格式，用于在随机椭圆PDE中计算多项式混沌展开（PCE）系数，通过低秩压缩实现高维解的高效计算。通过使用块交叉近似和交替极小能量算法，该方法在多项式阶数高达p=5时实现高精度，由于与p呈线性关系且秩减少稳定，其在高阶情形下优于稀疏PCE。

ABSTRACT

We apply the Tensor Train (TT) approximation to construct the Polynomial Chaos Expansion (PCE) of a random field, and solve the stochastic elliptic diffusion PDE with the stochastic Galerkin discretization. We compare two strategies of the polynomial chaos expansion: sparse and full polynomial (multi-index) sets. In the full set, the polynomial orders are chosen independently in each variable, which provides higher flexibility and accuracy. However, the total amount of degrees of freedom grows exponentially with the number of stochastic coordinates. To cope with this curse of dimensionality, the data is kept compressed in the TT decomposition, a recurrent low-rank factorization. PCE computations on sparse grids sets are extensively studied, but the TT representation for PCE is a novel approach that is investigated in this paper. We outline how to deduce the PCE from the covariance matrix, assemble the Galerkin operator, and evaluate some post-processing (mean, variance, Sobol indices), staying within the low-rank framework. The most demanding are two stages. First, we interpolate PCE coefficients in the TT format using a few number of samples, which is performed via the block cross approximation method. Second, we solve the discretized equation (large linear system) via the alternating minimal energy algorithm. In the numerical experiments we demonstrate that the full expansion set encapsulated in the TT format is indeed preferable in cases when high accuracy and high polynomial orders are required.

研究动机与目标

• 解决高维参数化PDE中随机伽辽金方法的维度灾难问题。
• 为完整的多项式混沌展开（PCE）系数开发一种低秩张量列车（TT）表示，以避免自由度的指数增长。
• 在TT框架内实现随机伽辽金算子的高效计算及后处理（均值、方差、Sobol指标）。
• 展示在高阶多项式和高精度要求下，TT格式下的完整PCE相较于稀疏PCE的优越性。

提出的方法

• 使用Karhunen-Loève展开（KLE）和TT近似，将随机场系数κ(x,ω)表示为张量列车（TT）格式。
• 构建具有各随机变量独立多项式阶数的完整多项式混沌展开（PCE），并以TT格式存储，以保持低秩结构。
• 应用块交叉近似（TT-Cross）从少量样本中插值PCE系数，同时保持低秩结构。
• 通过TT分量上的单变量运算，以TT格式精确构造随机伽辽金矩阵，实现多项式阶数加倍的精确构造。
• 使用交替极小能量算法（AME）在TT格式下求解所得大型线性系统。
• 直接在TT格式中使用低秩张量运算，高效完成后处理（均值、方差、等值线图、Sobol指标）。

实验结果

研究问题

• RQ1 张量列车格式能否在高维随机PDE中有效表示完整多项式混沌展开，从而避免维度灾难？
• RQ2 在高阶多项式情形下，TT格式下的完整PCE与稀疏PCE在精度和计算成本方面有何比较？
• RQ3 是否可以无需显式存储完整矩阵，在TT格式中高效构造并求解随机伽辽金算子？
• RQ4 是否可行直接在TT格式中计算统计后处理量（均值、方差、Sobol指标）？
• RQ5 TT方法在多项式阶数p增加时是否具有有利的可扩展性，特别是在p > 3时？

主要发现

• TT格式能够对PCE系数实现稳定且近乎最优的低秩压缩，复杂度为O(M n r³)，避免了维度灾难。
• 对于多项式阶数p ≥ 4，尽管初始设置成本较高，TT格式下的完整PCE在精度和可扩展性方面优于稀疏PCE。
• 块交叉近似方法成功地仅用少量样本在TT格式中插值PCE系数，对于p=5和M=20，相对误差低于1e-4。
• 通过使用两倍多项式阶数，可精确在TT格式中构造随机伽辽金算子，存储量为O(M p² r²)，具有可处理性。
• 诸如均值、方差和等值线图等后处理操作可直接在TT格式中高效计算，同时保持低秩结构。
• 数值实验表明，TT方法在p=1、M=10时的相对误差为2.60e-2，在p=4、M=30时为1.11e-4，且在高p时显著节省CPU时间。