[論文レビュー] Domain Agnostic Fourier Neural Operators

Ning Liu, Siavash Jafarzadeh+1 more|arXiv (Cornell University)|Apr 30, 2023

Non-Destructive Testing Techniques被引用数 4

ひとこと要約

本稿では、不規則なドメイン境界を滑らかな特性関数を用いて明示的に符号化することで、高速フーリエ変換（FFT）を用いたPDE解作用素の効率的かつ高精度な学習を可能にする、新しいニューラル作用素アーキテクチャであるドメインに依存しないフーリエニューラル作用素（DAFNO）を提案する。DAFNOは、物性モデルと空力翼型シミュレーションのベンチマークで最先端の性能を達成し、1つの訓練用クラックサンプルのみで、未観測のクラックパターンや荷重条件への一般化を実現する。

ABSTRACT

Fourier neural operators (FNOs) can learn highly nonlinear mappings between function spaces, and have recently become a popular tool for learning responses of complex physical systems. However, to achieve good accuracy and efficiency, FNOs rely on the Fast Fourier transform (FFT), which is restricted to modeling problems on rectangular domains. To lift such a restriction and permit FFT on irregular geometries as well as topology changes, we introduce domain agnostic Fourier neural operator (DAFNO), a novel neural operator architecture for learning surrogates with irregular geometries and evolving domains. The key idea is to incorporate a smoothed characteristic function in the integral layer architecture of FNOs, and leverage FFT to achieve rapid computations, in such a way that the geometric information is explicitly encoded in the architecture. In our empirical evaluation, DAFNO has achieved state-of-the-art accuracy as compared to baseline neural operator models on two benchmark datasets of material modeling and airfoil simulation. To further demonstrate the capability and generalizability of DAFNO in handling complex domains with topology changes, we consider a brittle material fracture evolution problem. With only one training crack simulation sample, DAFNO has achieved generalizability to unseen loading scenarios and substantially different crack patterns from the trained scenario. Our code and data accompanying this paper are available at https://github.com/ningliu-iga/DAFNO.

研究の動機と目的

• FFTに基づく効率性を求める標準的なフーリエニューラル作用素（FNO）が、長方形で均一なグリッド構造を前提としているという制限を解消すること。
• 不規則なドメインやトポロジーの変化に適用した場合に生じるゼロパディングやマスキング技術の不安定さや不正確さを克服すること。
• 学習済み作用素が、クラックの成長に伴う分岐を含む、未観測のドメイン幾何形状やトポロジーの変化に対しても一般化できることを実現すること。
• FFTの計算効率を維持しながら、幾何的境界情報を明示的に符号化するニューラル作用素アーキテクチャを構築すること。
• 複雑で変化するドメインを伴う多様な科学計算問題において、本手法の頑健性と表現力の有効性を実証すること。

提案手法

• ドメイン境界を表す滑らかな特性関数を導入し、これをFNOの積分層に直接埋め込む。
• FNO層を変更して、物理的領域内でのみスペクトル畳み込みを実行し、領域外の非物理的相互作用を遮断する。
• 畳み込み型カーネルの形を維持することで、高速フーリエ変換（FFT）による計算効率を保つ。
• 2つのバリエーションを提案：eDAFNO（明示的FNOベース）とiDAFNO（暗黙的FNOベース）、精度と効率のバランスを図る。
• Gibbs現象の緩和と境界付近での数値的安定性の向上を目的として、境界の滑らかさを向上させる。
• 不規則なドメイン上での入力関数から解場への関数対を、エンドツーエンドで学習し、一般化を向上させるためにランダム化された正弦波場をデータオーグメンテーションに用いる。

実験結果

リサーチクエスチョン

• RQ1 FFTの効率性を保ちながら、任意の不規則なドメイン幾何形状に対しても頑健なフーリエニューラル作用素を構築できるか？
• RQ2 ニューラル作用素に幾何的境界情報を明示的に符号化することで、未観測のドメイン形状やトポロジー変化への一般化性能を向上させられるか？
• RQ3 クラック成長プロセスの1つの訓練サンプルのみで、異なる荷重条件下での多様なクラックパターンを正確に予測できるか？
• RQ4 変化するドメイン上での安定性と正確性の観点から、マスクまたはパディングを用いた標準FNOと比較して、本手法はどのように差を示すか？
• RQ5 訓練時に観測されていなかった境界条件やドメイントポロジーに対しても、モデルはどの程度一般化できるか？

主な発見

• DAFNOは、超弾性材料モデリングと空力翼型シミュレーションのベンチマークデータセットにおいて、ベースラインのニューラル作用素モデルを上回る最先端の精度を達成した。
• 4 MPaの荷重下でのクラック成長シナリオの1つの訓練サンプルのみで、eDAFNOは未観測の荷重大きさ（2 MPaおよび6 MPa）に対しても一般化し、分岐や急激な成長を含む多様なクラックパターンを正確に予測した。
• eDAFNOは長時間にわたるシミュレーションでも安定した予測を維持したが、マスクを用いた標準FNOは、マスクの分布シフトに起因する早期の不安定化を示した。
• eDAFNOでは、すべてのテストシナリオにおいて特性関数および変位場の相対誤差が低く保たれ、変化するドメイントポロジーを高精度に捉えていることを示した。
• iDAFNOは限られたデータ下で優れた計算効率と過学習の低減を示した一方、eDAFNOはわずかに高い精度を達成した。
• 境界の滑らかさ処理技術は、Gibbs現象の緩和とドメイン境界における数値的安定性の向上に効果的であった。