[論文レビュー] Solving Allen-Cahn and Cahn-Hilliard Equations using the Adaptive Physics Informed Neural Networks

Colby Wight, Jia Zhao|arXiv (Cornell University)|Jul 9, 2020

Model Reduction and Neural Networks参考文献 28被引用数 32

ひとこと要約

本論文は、相変態場方程式（Allen–Cahn および Cahn–Hilliard）に対する物理情報ニューラルネットワーク（PINN）を、適応的な空間/時間サンプリングと訓練戦略を導入することで強化し、精度と効率を大幅に向上させる。

ABSTRACT

Phase field models, in particular, the Allen-Cahn type and Cahn-Hilliard type equations, have been widely used to investigate interfacial dynamic problems. Designing accurate, efficient, and stable numerical algorithms for solving the phase field models has been an active field for decades. In this paper, we focus on using the deep neural network to design an automatic numerical solver for the Allen-Cahn and Cahn-Hilliard equations by proposing an improved physics informed neural network (PINN). Though the PINN has been embraced to investigate many differential equation problems, we find a direct application of the PINN in solving phase-field equations won't provide accurate solutions in many cases. Thus, we propose various techniques that add to the approximation power of the PINN. As a major contribution of this paper, we propose to embrace the adaptive idea in both space and time and introduce various sampling strategies, such that we are able to improve the efficiency and accuracy of the PINN on solving phase field equations. In addition, the improved PINN has no restriction on the explicit form of the PDEs, making it applicable to a wider class of PDE problems, and shedding light on numerical approximations of other PDEs in general.

研究の動機と目的

• ニューラルネットワークを用いた相変態場モデル（Allen–Cahn および Cahn–Hilliard）の数値解法を改善する動機付け。
• 相変態場問題における鋭い界面の扱いと時間発展を扱う際の基礎PINNの限界を識別する。
• PINNの精度と効率を高めるための適応サンプリングと時間適応戦略を開発する。
• ベンチマーク問題を通じて高次元および複雑な幾何学への適用性を示す。

提案手法

• 基礎のPINN定式化をレビューし、Motivationとして Burgers’ equation に適用する。
• 初期・時間学習を強調し散逸ダイナミクスを課すための加重損失を導入する。
• PINN最適化の収束性を改善するためにミニバッチ処理を採用する。
• f-network誤差指標を介して移動する界面に焦点を合わせるよう空間での適応コロケーション点再サンプリングを開発する。
• 2つの時間適応戦略を提案する：（i）時間区間内での適応的時間/空間サンプリング、（ii）時間ステップごとに別々のネットワークで時間マーチング。
• 1D, 2D, 3D設定で Allen–Cahn および Cahn–Hilliard 方程式に適用し、ベンチマークのドロップやL字形ドメインを含む。

実験結果

リサーチクエスチョン

• RQ1 空間と時間の適応サンプリングは Allen–Cahn および Cahn–Hilliard 方程式のPINNの精度を向上させるか。
• RQ2 加重損失とミニバッチは相変態PINNの収束性と精度にどう影響するか。
• RQ3 時間適応戦略は移動する鋭い界面と CH 方程式の高次導関数を解く際に有効か。
• RQ4 適応PINNが高次元および複雑な幾何学の相変態モデルでどの程度性能を発揮するか。

主な発見

Method	Relative l2	Relative l1	l_infty
PINN (baseline)	9.90e-1	9.90e-1	9.96e-1
Weighted Loss	5.22e-1	3.25e-1	1.37
Mini-batching	3.25e-2	8.80e-3	3.37e-1
Adaptive Sampling (Re-sampling)	2.33e-2	6.20e-3	2.64e-1

• 基礎のPINNは Allen–Cahn 方程式を正確に解くのに苦戦する。
• 損失加重項を追加すると初期学習が改善されるが、完全な収束には至らない可能性がある。
• ミニバッチ処理は収束性と精度の改善に一定の利点を提供する。
• 適応的コロケーション点再サンプリングは、はるかに少ないコロケーション点（2,000 対 10,000）を用いながら精度を大幅に改善（相対 L2 誤差が 2.33e-2 へ）する。
• 時間適応戦略（適応的時間区間と時間マーチング）は、固定時間手法が失敗する難易度の高いケース（例: gamma2=4 の AC）に対して正確な解を可能にする。
• 適応時間マーチングと時間適応サンプリングは、2Dおよび3Dの Allen–Cahn の正確な結果をもたらし、収縮ドロップのベンチマークや複雑なL字形ドメインを含む。
• Cahn–Hilliard の実験は、より高次の偏微分方程式に対する適応PINNフレームワークの実現可能性を示す（抜粋では完全には詳細化されていない）。