[論文レビュー] Fourier Neural Operator with Learned Deformations for PDEs on General Geometries

Zongyi Li, Daniel Zhengyu Huang+2 more|arXiv (Cornell University)|Jul 11, 2022

Model Reduction and Neural Networks被引用数 147

ひとこと要約

Geo-FNOは、irregular physical domains to a uniform latent space からの変形を学習することにより、任意の幾何に対して Fourier Neural Operator を拡張し、一般的なメッシュ上での FFT-based solving をエンドツーエンド訓練で可能にする。

ABSTRACT

Deep learning surrogate models have shown promise in solving partial differential equations (PDEs). Among them, the Fourier neural operator (FNO) achieves good accuracy, and is significantly faster compared to numerical solvers, on a variety of PDEs, such as fluid flows. However, the FNO uses the Fast Fourier transform (FFT), which is limited to rectangular domains with uniform grids. In this work, we propose a new framework, viz., geo-FNO, to solve PDEs on arbitrary geometries. Geo-FNO learns to deform the input (physical) domain, which may be irregular, into a latent space with a uniform grid. The FNO model with the FFT is applied in the latent space. The resulting geo-FNO model has both the computation efficiency of FFT and the flexibility of handling arbitrary geometries. Our geo-FNO is also flexible in terms of its input formats, viz., point clouds, meshes, and design parameters are all valid inputs. We consider a variety of PDEs such as the Elasticity, Plasticity, Euler's, and Navier-Stokes equations, and both forward modeling and inverse design problems. Geo-FNO is $10^5$ times faster than the standard numerical solvers and twice more accurate compared to direct interpolation on existing ML-based PDE solvers such as the standard FNO.

研究の動機と目的

• FFT-based neural operators を irregular geometries および non-uniform meshes に適用するという課題に対処する。
• 幾何学を意識したフレームワークを開発し、物理領域をスペクトル法の均一な潜在空間へ変形する。
• ドメインの変形をオペレーターと共同でエンドツーエンド学習することで精度を向上させる。
• 複数の PDE（Elasticity, Plasticity, Euler, Navier–Stokes）に対する前方問題と逆設計への適用性を示す。

提案手法

• geo-FNOを、物理領域から単位トーラスへの（微分同相な）変形を学習することで、 latent space で FFTs が適用できるようにする。
• 変形を組み込んだ正向・逆幾何フーリエ変換（F_a および F_a^{-1}）を、適切なヤコビ行列重み付けとともに定義する。
• 変形写像をニューラルネットワークでパラメータ化し、Geo-FNOオペレーターとエンドツーエンドで訓練する。
• 入力フォーマットとして点群、非一様メッシュ、設計パラメータを許可する；特別なケースは構造化メッシュ上の標準的な FNO に簡略化される。
• スペクトル空間でのフーリエベースのグローバル畳み込み（K_l）と活性化層を用いて解法オペレーターを近似する；トポロジーが不規則な場合はフーリエ連続化へ拡張する。
• 任意の複合ドメインを規則なスーパー集合に埋め込み、ドメイン同士の同相性が保たれない場合でもスペクトル解法を可能にするための Fourier continuation を適用することを選択的に行う。

実験結果

リサーチクエスチョン

• RQ1 Geo-FNOは、 irregular geometries に対する不規則なメッシュ上で解法オペレーターを正確に近似できるか。
• RQ2 学習されたドメイン変形は、補間ベースのまたは固定変形アプローチと比較して精度と速度を向上させるか。
• RQ3 Geo-FNOは前方のPDE問題（Elasticity, Plasticity, Euler, Navier–Stokes）および逆設計タスクでどのように性能を発揮するか。
• RQ4 従来のソルバーおよび他のMLベースのPDEサロゲートに対する計算的利得はどれくらいか。
• RQ5 エンドツーエンドのフレームワークで変形をオペレーターと共同学習し、設計最適化をエンドツーエンドで微分可能にできるか。

主な発見

Model	Airfoil (training)	Airfoil (testing)	Pipe (training)	Pipe (testing)	Plasticity (training)	Plasticity (testing)
Geo-FNO (learned)	0.0134	0.0138	0.0047	0.0067	0.0071	0.0074
Geo-FNO (R mesh)	0.0308	0.0536
Geo-FNO (O mesh)	0.0344	0.0363
FNO interpolation	0.0314	0.0508
UNet interpolation	0.0089	0.0531

• Geo-FNOは、空力翼問題で従来のソルバーより最大で1e5倍の速度向上を達成。
• 学習された変形を用いたGeo-FNOは、補間ベースのMLソルバーより誤差が小さく、報告されたテストではGraphNOやDeepONetのようなメッシュフリー法よりも優れている。
• エンドツーエンド学習による変形（固定のRメッシュまたはOメッシュと比較）は、 tested Elasticity、Pipe flow、Plasticityの問題で精度を改善。
• 入力が構造化メッシュの場合、Geo-FNOは標準のFNOへと還元され、FFTの効率を保ちつつ幾何学的柔軟性を実現。変形の学習は irregular geometries で主に効果を発揮する。
• 推論時間は1インスタンスあたり約0.01秒程度にとどまり、FNOの速度を保ちつつ幾何学的柔軟性を実現。
• Geo-FNOは幾何パラメータ（例：翼型スプラインノード）を最適化して所望の流れ特性を達成する逆設計を可能にし、前方予測が最適化を導く。