[論文レビュー] Fast PDE-constrained optimization via self-supervised operator learning

Sifan Wang, Mohamed Aziz Bhouri+1 more|arXiv (Cornell University)|Oct 25, 2021

Model Reduction and Neural Networks参考文献 55被引用数 5

ひとこと要約

本論文は、ペairドトレーニングデータを必要とせず、パラメトリックPDEの解作用素を学習することで、PDE制約付き最適化を高速化する自己教師付き物理情報付きDeepONetフレームワークを提案する。この手法により、連続的制御変数および設計変数の高速で微分可能かつ高次元の最適化が可能となり、抗力低減および熱伝達問題において、アドジョイントソルバーよりも最大1000倍高速化され、誤差は1%未満に抑えられる。

ABSTRACT

Design and optimal control problems are among the fundamental, ubiquitous tasks we face in science and engineering. In both cases, we aim to represent and optimize an unknown (black-box) function that associates a performance/outcome to a set of controllable variables through an experiment. In cases where the experimental dynamics can be described by partial differential equations (PDEs), such problems can be mathematically translated into PDE-constrained optimization tasks, which quickly become intractable as the number of control variables and the cost of experiments increases. In this work we leverage physics-informed deep operator networks (DeepONets) -- a self-supervised framework for learning the solution operator of parametric PDEs -- to build fast and differentiable surrogates for rapidly solving PDE-constrained optimization problems, even in the absence of any paired input-output training data. The effectiveness of the proposed framework will be demonstrated across different applications involving continuous functions as control or design variables, including time-dependent optimal control of heat transfer, and drag minimization of obstacles in Stokes flow. In all cases, we observe that DeepONets can minimize high-dimensional cost functionals in a matter of seconds, yielding a significant speed up compared to traditional adjoint PDE solvers that are typically costly and limited to relatively low-dimensional control/design parametrizations.

研究の動機と目的

• 次元の呪いと高価なPDE解法による、高次元PDE制約付き最適化の計算不能性に対処すること。
• 大規模なトレーニングデータを必要とし、パrameterの変動に対して頑健性に欠ける伝統的な低次元モデルの限界を克服すること。
• ペア入出力データを必要とせず、PDE解作用素のための微分可能で高速なスレーブを構築すること。
• 深層作用素ネットワークを用いて、連続的かつ無限次元の制御関数（例：時間依存または形状パラメータ）の最適化を可能にすること。
• 高い精度と速度を実現する一方で、リアルタイム最適制御および形状最適化への有効性を実証すること。

提案手法

• ペア入出力ペアを必要とせず、自己教師付きの方法で物理情報付きDeepONetを用いて、パラメトリックPDEの解作用素を学習する。
• 支配PDE、境界条件、初期条件の残差損失を直接損失関数に組み込み、DeepONetを訓練する。
• 入力関数（例：制御入力や幾何パラメータ）を潜在空間表現で符号化し、任意の空間的・時間的解像度での全領域解（例：速度、圧力、温度）を予測する。
• 訓練済みDeepONetを介してバックプロパゲーションを可能にし、コスト関数の連続的制御変数に関する勾配を計算することで、勾配ベース最適化を可能にする。
• 高価なアドジョイントソルバーセットを置き換えるために、訓練済みDeepONetを勾配降下ループに統合し、PDE制約付き最適化問題を解く。
• 定量的比較のため、高精度なFEniCSベースのソルバを用いて基準解を生成し、手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 物理情報付きDeepONetは、ペアトレーニングデータを必要とせず、高速で微分可能かつ高精度なPDE制約付き最適化のスレーブとして機能できるか？
• RQ2 DeepONetは、最適制御および形状最適化問題において、連続的かつ無限次元の制御および設計変数をどの程度適切に処理できるか？
• RQ3 従来のアドジョイント有限要素ソルバーよりも、速度と精度の面で、DeepONetベースの最適化フレームワークはどのように優れているか？
• RQ4 時間依存熱伝達および複雑な幾何形状を有するストークス流れのような複雑なPDEを解く際、このフレームワークは高い精度を維持できるか？
• RQ5 自己教師付きトレーニングパラダイムは、異なるパrameter範囲および未学習の設定において、一般化能力をどのように示すか？

主な発見

• 提案されたDeepONetベースのフレームワークは、1回の最適化実行あたり10秒未塔で熱伝達最適制御および抗力低減を達成し、従来のアドジョイントソルバーよりも1000倍高速化された。
• ストークス流れの抗力低減問題において、予測された最適な障害物形状は、FEniCSによる基準解と比較して相対L²誤差がたった0.51%にとどまった。
• ストークス流れのケースにおいて、物理情報付きDeepONetは、速度場で0.97% ± 0.24%、v成分で4.79% ± 0.53%、圧力場で1.53% ± 0.67%のテスト誤差を達成した。
• この手法は、制御空間を有限次元ベクトルに離散化することなく、連続的制御関数（例：時間変動する熱源や障害物形状）の最適化に成功した。
• 微調整や再トレーニングなしに、未学習のパrameter設定に対しても、フレームワークは頑健性と一般化能力を示した。
• 自己教師付きトレーニングパラダイムにより、従来の低次元モデルと比較して、大規模シミュレーションデータセットの必要性が排除され、データ取得コストが顕著に削減された。