[論文レビュー] Computation of the Response Surface in the Tensor Train data format

Sergey Dolgov, Boris N. Khoromskij+2 more|arXiv (Cornell University)|Jun 11, 2014

Tensor decomposition and applications参考文献 32被引用数 22

ひとこと要約

本稿では、確率的楕円型PDEにおける多項式混沌展開（PCE）係数の計算に、テンソルトレイン（TT）形式を提案する。これにより、低ランク圧縮を用いて高次元解を効率的に得ることができる。ブロッククロス近似と交互最小エネルギーアルゴリズムを用いることで、p=5に達する多項式次数まで高い精度が得られ、次数が高くなる領域ではスパースPCEを上回る。これは多項式次数pに対して線形スケーリングを示し、安定したランク低減が達成されるためである。

ABSTRACT

We apply the Tensor Train (TT) approximation to construct the Polynomial Chaos Expansion (PCE) of a random field, and solve the stochastic elliptic diffusion PDE with the stochastic Galerkin discretization. We compare two strategies of the polynomial chaos expansion: sparse and full polynomial (multi-index) sets. In the full set, the polynomial orders are chosen independently in each variable, which provides higher flexibility and accuracy. However, the total amount of degrees of freedom grows exponentially with the number of stochastic coordinates. To cope with this curse of dimensionality, the data is kept compressed in the TT decomposition, a recurrent low-rank factorization. PCE computations on sparse grids sets are extensively studied, but the TT representation for PCE is a novel approach that is investigated in this paper. We outline how to deduce the PCE from the covariance matrix, assemble the Galerkin operator, and evaluate some post-processing (mean, variance, Sobol indices), staying within the low-rank framework. The most demanding are two stages. First, we interpolate PCE coefficients in the TT format using a few number of samples, which is performed via the block cross approximation method. Second, we solve the discretized equation (large linear system) via the alternating minimal energy algorithm. In the numerical experiments we demonstrate that the full expansion set encapsulated in the TT format is indeed preferable in cases when high accuracy and high polynomial orders are required.

研究の動機と目的

• 高次元パrametric PDEに対する確率的ガレルキン法における次元の呪いに対処すること。
• 全多項式混沌展開（PCE）係数の低ランクテンソルトレイン（TT）表現を構築し、自由度の指数的増加を回避すること。
• TTフレームワーク内でのスツルチスティックガレルキン作用素の効率的計算および後処理（平均、分散、ソボルインデックス）を可能にすること。
• 高次多項式次数および高精度要件において、TT形式での全PCEがスパースPCEを上回ることを実証すること。

提案手法

• カルフネン＝ローエン展開（KLE）とTT近似を用いて、確率的場の係数κ(x,ω)をテンソルトレイン（TT）形式で表現する。
• 各確率的変数に対して独立した多項式次数を持つ全多項式混沌展開（PCE）を構築し、低ランク構造を維持するためTT形式に格納する。
• PCE係数を少数のサンプルから補間するために、ブロッククロス近似（TT-Cross）を適用し、低ランク構造を保持する。
• TT成分における1変数演算を用いて、TT形式でのスツルチスティックガレルキン行列を構築し、多項式次数を2倍にすることで正確な構築が可能になる。
• 得られた大規模な線形系を、TT形式での交互最小エネルギーアルゴリズム（AME）により解く。
• 平均、分散、等高線、ソボルインデックスなどの後処理を、低ランクテンソル演算を用いてTT形式そのもので直接実行する。

実験結果

リサーチクエスチョン

• RQ1 テンソルトレイン形式は、次元の呪いを回避しつつ、高次元確率的PDEにおける全多項式混沌展開を効果的に表現できるか？
• RQ2 高次多項式次数において、TTベースの全PCEはスパースPCEと比較して、精度と計算コストの点で優れているか？
• RQ3 明示的なフル行列の保存を伴わずに、TT形式でスツルチスティックガレルキン作用素を効率的に構築・解けるか？
• RQ4 平均、分散、ソボルインデックスなどの統計的後処理量を、TT形式そのもので直接計算できるか？
• RQ5 特にp > 3のとき、多項式次数の増加に伴い、TTアプローチは有利にスケーリングするか？

主な発見

• TT形式により、PCE係数の安定的かつ準最適な低ランク圧縮が可能となり、計算量はO(M n r³)にスケーリングされ、次元の呪いを回避する。
• 多項式次数p ≥ 4では、初期設定コストがやや高いものの、精度とスケーラビリティの点でTTベースの全PCEがスパースPCEを上回る。
• ブロッククロス近似法により、少数のサンプルのみでTT形式のPCE係数を効果的に補間でき、p=5、M=20の条件下で相対誤差が1e-4未満に抑えられた。
• 多項式次数を2倍にすることで、スツルチスティックガレルキン作用素をTT形式で正確に構築でき、保存領域はO(M p² r²)に制限される。
• 平均、分散、等高線などの後処理演算は、TT形式そのもので効率的に計算可能であり、低ランク構造が保持される。
• 数値実験では、p=1、M=10のとき相対誤差が2.60e-2、p=4、M=30のとき1.11e-4に達し、高次pにおけるCPU時間の大幅な削減が確認された。