[論文レビュー] Physics Informed Deep Learning for Flow and Transport in Porous Media

Cédric Fraces Gasmi, Hamdi A. Tchelepi|arXiv (Cornell University)|Apr 6, 2021

Reservoir Engineering and Simulation Methods参考文献 25被引用数 6

ひとこと要約

本稿では、多孔質媒体内の流れと輸送を支配する偏微分方程式（PDE）、特にBuckley-Leverett方程式を満たすように学習されたニューラルネットワークを用いた、物理則を組み込んだ深層学習フレームワークを提示する。物理法則と境界条件を損失関数に直接埋め込むことで、1次元および2次元の双曲型問題においてショック波および希薄波を正確に捉えることができ、不連続性が存在する中でも収束性が高く、最先端の結果を達成した。

ABSTRACT

We present our progress on the application of physics informed deep learning to reservoir simulation problems. The model is a neural network that is jointly trained to respect governing physical laws and match boundary conditions. The methodology is hereby used to simulate a 2-phase immiscible transport problem (Buckley-Leverett). The model is able to produce an accurate physical solution both in terms of shock and rarefaction and honors the governing partial differential equation along with initial and boundary conditions. We test various hypothesis (uniform and non-uniform initial conditions) and show that with the proper implementation of physical constraints, a robust solution can be trained within a reasonable amount of time and iterations. We revisit some of the limitations presented in previous work \cite{Fuks2020} and further the applicability of this method in a forward, pure hyperbolic setup. We also share some practical findings on the application of physics informed neural networks (PINN). We review various network architectures presented in the literature and show tips that helped improve their convergence and accuracy. The proposed methodology is a simple and elegant way to instill physical knowledge to machine-learning algorithms. This alleviates the two most significant shortcomings of machine-learning algorithms: the requirement for large datasets and the reliability of extrapolation. The principles presented can be generalized in innumerable ways in the future and should lead to a new class of algorithms to solve both forward and inverse physical problems.

研究の動機と目的

• 複雑な物理現象と限られたデータを伴う地球系システムに対して、強固で物理的に整合性のある機械学習手法の不足を解消すること。
• 学習プロセスにおいて保存則と境界条件を直接強制する深層学習フレームワークの開発。
• 大規模なラベル付きデータセットを必要とせずに、地下流体シミュレーションにおけるMLモデルの一般化性能と信頼性の向上。
• 不連続解を伴う非線形で双曲型のPDE、例えばBuckley-Leverett問題に対して、本手法の有効性を実証すること。
• 物理則を組み込んだニューラルネットワーク（PINN）における収束性と精度を向上させるアーキテクチャおよびトレーニング戦略の探求。

提案手法

• Buckley-Leverett PDEの解を近似するための深層ニューラルネットワークを、残差PDE項、初期条件、境界条件を含む複合損失関数を最小化するように学習する。
• 物理的制約、例えばエントロピー条件やフラックス連続性を損失関数に組み込むことで、特に不連続点において物理的に妥当な解を保証する。
• 透水率場を、流れの解と同時に学習するが、勾配を伝播させないことでアーチファクトを回避するニューラルネットワークの代理モデルとして扱う。
• フーリエネットワーク、DGM、およびSiRen（周期的ネットワーク）を含むさまざまなネットワークアーキテクチャを評価し、この問題では単純な全結合ネットワークが優れた性能を示した。
• グリッドフリーでコロケーションに基づくアプローチにより、空間的・時間的全域にわたり点をサンプリングし、各トレーニングイテレーションで全ドメイン最適化を実現する。
• 損失項の適切な重み付けとエントロピー制約の実装が、トレーニングの安定化と収束性の向上に不可欠である。

Figure 1: Results of saturation inference computed using the PINN approach (dashed red) conditioned on the weak form of the hyperbolic problem. The reference solution using MOC is plotted in blue

実験結果

リサーチクエスチョン

• RQ1 物理則を組み込んだニューラルネットワーク（PINN）は、ショック波や希薄波を伴う非線形で双曲型のPDE、特に多孔質媒体内流れにおいて、高精度にシミュレーションできるか？
• RQ2 エントロピー条件やフラックス連続性といった物理的制約は、トレーニングの安定化と解の忠実性向上にどのように寄与するか？
• RQ3 大規模なラベル付きデータを必要とせず、非一様な初期条件や複雑な不均質性を伴う問題に対しても、PINNは効果的に一般化できるか？
• RQ4 流れの解と透水率場の代理モデルを同時に学習させることで、解の品質とトレーニングの安定性にどのような影響を与えるか？
• RQ5 異なるニューラルネットワークアーキテクチャ（例：フーリエ、SiRen、DGM）は、Buckley-Leverett問題の解法において、精度と収束性の観点でどのように比較されるか？

主な発見

• 本モデルは、1次元Buckley-Leverett問題において、ショック波および希薄波を高精度に捉えることに成功し、新たな最先端水準を確立した。
• 特に急激な不連続性が存在する状況では、エントロピー条件の組み込みと適切な損失重み付けにより、トレーニングの収束性が顕著に向上した。
• 2次元のシミュレーションには約40万イテレーション、Tesla V100 GPUで3時間のトレーニング時間が要され、各イテレーションで全空間時間ドメインが処理された。
• 透水率の代理ネットワークへの勾配伝播を防止することで、透水率フィールドにアーチファクトが生じるのを回避し、静的性質を維持した。
• この問題では、より複雑なアーキテクチャであるフーリエネットワークやSiRenネットワークよりも、単純な全結合ネットワークが優れた性能を示した。これは、アーキテクチャの単純さが利点となる可能性を示唆している。
• 各イテレーションで全ドメイン最適化が行われるため、完全なトレーニング終了前に早期推論が可能となり、実用的である。

Figure 2: Triple-Valued Saturation Distribution (Source Buckley and Leverett, 1942 [ 5 ] )