[論文レビュー] An autoencoder-based reduced-order model for eigenvalue problems with application to neutron diffusion

Toby R. F. Phillips, Claire E. Heaney+2 more|arXiv (Cornell University)|Aug 15, 2020

Model Reduction and Neural Networks参考文献 62被引用数 67

ひとこと要約

本稿では、非線形次元削減のためのオートエンコーダーを用いた、中性子拡산における固有値問題のための新規な射影ベースの低次元モデル（ROM）を提案する。従来の特異値分解（SVD）に基づくポーラー・オルソゴナル分解（POD）手法よりも優れた性能を示す。ハイブリッドSVD-オートエンコーダー手法により入力の複雑さが低減され、特にk-eff予測の精度が向上し、2次元テストケースにおいてPODおよび標準オートエンコーダーROMと比較して、誤差が1桁低い水準にまで低下した。

ABSTRACT

Using an autoencoder for dimensionality reduction, this paper presents a novel projection-based reduced-order model for eigenvalue problems. Reduced-order modelling relies on finding suitable basis functions which define a low-dimensional space in which a high-dimensional system is approximated. Proper orthogonal decomposition (POD) and singular value decomposition (SVD) are often used for this purpose and yield an optimal linear subspace. Autoencoders provide a nonlinear alternative to POD/SVD, that may capture, more efficiently, features or patterns in the high-fidelity model results. Reduced-order models based on an autoencoder and a novel hybrid SVD-autoencoder are developed. These methods are compared with the standard POD-Galerkin approach and are applied to two test cases taken from the field of nuclear reactor physics.

研究の動機と目的

• . 非線形次元削減のためのオートエンコーダーを用いた、固有値問題における射影ベースの低次元モデルの開発。
• . 圧縮精度と計算効率の観点から、オートエンコーダー基盤ROMと標準のPODガレルキン法を比較すること。
• . 入力次元の低減とモデルのロバストネス向上を図る、新規なハイブリッドSVD-オートエンコーダー手法の導入と評価。
• . 異なる材料特性を有する実用的な炉物理テストケースにおける性能評価。
• . 非線形オートエンコーダーが、線形PODに比べて、複雑な解の特徴を低次元モデルでより効率的に捉えることができるかの検証。

提案手法

• . 高精度モデル（HFM）スナップショットから非線形低次元潜在空間を学習するオートエンコーダーを用い、基底関数の生成に線形POD/SVDの代わりに使用する。
• . ハイブリッドSVD-オートエンコーダーを実装：スナップショットにまずSVDを適用して次元を低減し、その後オートエンコーダーに供給することで、ネットワークの複雑さを低減する。
• . ガレルキン射影を用いて、学習された潜在空間に全支配方程式（中性子拡散）を射影し、低次元方程式系を構築する。
• . トレーニング済みのオートエンコーダーと低次元行列を用いて、オンライン評価で既知および未知のパrameter値に対して低次元方程式系を解く。
• . 始めに圧縮誤差、フラックスプロファイル誤差、k-eff誤差などの指標を用いて、標準PODガレルキンROMおよび標準オートエンコーダー基盤ROMと結果を比較する。
• . 2段階のオフラインプロセスを採用：(1) トレーニング用パrameterに対してHFMを実行、(2) スナップショットを用いてオートエンコーダーとSVDをトレーニングし、基底関数と潜在表現を生成する。

実験結果

リサーチクエスチョン

• RQ1 . オートエンコーダー基盤ROMは、中性子拡散の固有値問題において、PODガレルキンROMよりも高い精度を達成できるか？
• RQ2 . ハイブリッドSVD-オートエンコーダーの性能は、標準オートエンコーダーおよびPODベースROMと比較して、圧縮誤差と解誤差の観点で優れているか？
• RQ3 . 非線形埋め込みによるオートエンコーダーは、特に複雑または非線形な系において、線形PODに比べて解の特徴をより効率的に捉えられるか？
• RQ4 . ハイブリッドSVD-オートエンコーダーは、標準オートエンコーダーROMと比較して、未知のパrameter値への一般化能力を向上させ、過学習を低減できるか？
• RQ5 . 入力次元の低減（SVD事前処理による）は、モデル低次元化の文脈で、オートエンコーダーの精度とトレーニング安定性にどのような影響を与えるか？

主な発見

• . ハイブリッドSVD-オートエンコーダー基盤ROMは、2次元テストケースにおいて未知データに対して最小のk-eff誤差（1.7117 × 10⁻⁴）を達成し、PODおよび標準オートエンコーダーROMと比較して1桁低い誤差を示した。
• . 2次元テストケースでは、SVD-オートエンコーダーROMはPODベースROMの誤差（1.9947 × 10⁻³）を10分の1にまで低減した。
• . SVD-オートエンコーダーROMは、既知および未知の両ケースにおいて一貫して低い圧縮誤差とフラックスプロファイル誤差を示し、圧縮誤差はPODの5.7756 × 10⁻²と比較して1.7734 × 10⁻²にまで低下した。
• . 1次元テストケースでは、オートエンコーダー基盤ROMがPODベースROMと比較してk-eff誤差を1桁低減し、1つの潜在変数あたりの情報捕捉能力に優れたことを示した。
• . ハイブリッドSVD-オートエンコーダー手法により、オートエンコーダーへの入力次元が低減され、ネットワークの複雑さと過学習の可能性が低下し、一般化性能が向上した。
• . SVD-オートエンコーダーが生成する潜在変数は、トレーニングデータ全体で安定的かつ情報豊かな範囲をカバーしており、解多様体のロバストで意味のある低次元表現であることが示された。