[論文レビュー] Seismic wave propagation and inversion with Neural Operators

Yan Yang, Angela F. Gao+4 more|arXiv (Cornell University)|Aug 11, 2021

Seismic Imaging and Inversion Techniques参考文献 23被引用数 5

ひとこと要約

本稿では、2次元音響波動方程式の一般解を学習するために、フーリエニューラルオペレータ（FNO）を提案する。1回の学習プロセス後、任意の速度構造や震源位置に対してほぼ即時の波動場予測が可能になる。本手法は、勾配計算に自動微分を活用することで、従来のスペクトル要素法に比べて全波形逆問題（FWI）を最大10倍速く実行でき、地球物理学的知見に基づいた深層学習のスケーラブルかつ微分可能な発展に向けた重要な一歩を示している。

ABSTRACT

Seismic wave propagation forms the basis for most aspects of seismological research, yet solving the wave equation is a major computational burden that inhibits the progress of research. This is exacerbated by the fact that new simulations must be performed when the velocity structure or source location is perturbed. Here, we explore a prototype framework for learning general solutions using a recently developed machine learning paradigm called Neural Operator. A trained Neural Operator can compute a solution in negligible time for any velocity structure or source location. We develop a scheme to train Neural Operators on an ensemble of simulations performed with random velocity models and source locations. As Neural Operators are grid-free, it is possible to evaluate solutions on higher resolution velocity models than trained on, providing additional computational efficiency. We illustrate the method with the 2D acoustic wave equation and demonstrate the method's applicability to seismic tomography, using reverse mode automatic differentiation to compute gradients of the wavefield with respect to the velocity structure. The developed procedure is nearly an order of magnitude faster than using conventional numerical methods for full waveform inversion.

研究の動機と目的

• 速度構造や震源位置の摂動に起因する繰り返しの地震波動シミュレーションの高コストを解消すること。
• 従来の数値的手法が、各新しいモデルや震源設定に対して再シミュレーションを必要とするという制限を克服すること。
• 物理的知見に基づいた機械学習を用いて、地震波動伝播と逆問題のための微分可能かつグリッドフリーなフレームワークを開発すること。
• 2次元の音響波動方程式に対して、一般解オペレータを学習するニューラルオペレータの可能性を実証すること。
• 従来の前方ソルバの代わりに訓練済みFNOを用い、勾配を自動微分で計算することで、効率的な全波形逆問題（FWI）を実現すること。

提案手法

• ランダムにサンプリングされた速度構造と震源位置を用いた2次元音響波動シミュレーションのアンサンブル上で、フーリエニューラルオペレータ（FNO）を学習する。
• 学習時に使用した解像度よりも高い解像度の速度構造に一般化可能なグリッドフリーなアーキテクチャを採用し、計算効率を向上させる。
• 波動方程式を関数から関数への写像問題として定式化し、FNOが初期条件と速度構造から解オペレータを学習する。
• 逆モードの自動微分を適用して、波動場の速度構造および震源位置に関する勾配を計算し、逆問題に適応させる。
• FNOを前方モデルとして用い、観測波動場と予測波動場のL2不一致誤差により損失を計算することで、全波形逆問題（FWI）を実行する。
• 1000イテレーションにわたりAdam最適化法を用いて速度構造を最適化し、1枚のGPU上で効率的に勾配を計算する。

実験結果

リサーチクエスチョン

• RQ1 再学習を必要とせずに、多様な速度構造と震源位置に一般化できるか？
• RQ2 FNOベースのFWIは、アドジョイントステート勾配計算を用いた従来のスペクトル要素法と比較して、計算効率がどの程度向上するか？
• RQ3 学習時に使用した解像度よりも高い解像度の速度構造に、FNOがどの程度一般化できるか？
• RQ4 FNOを経由する自動微分が、地震トモグラフィーのような逆問題に正確な勾配を提供できるか？
• RQ5 波動伝播において数値ソルバの代わりに学習済みオペレータを用いる場合、解の精度と計算速度のトレードオフはどの程度か？

主な発見

• テストケースにおいて、FNOベースのFWIフレームワークは相対ℓ₂不一致誤差が0.0319を示した。一方、アドジョイントステート逆問題を用いた従来のスペクトル要素法（SEM）は0.0289であった。
• FNOを用いた1回のFWIイテレーションは、1枚のNVIDIA Tesla V100 GPU上で約1秒で実行された。一方、SEMベースの手法は1イテレーションあたり約100秒を要した。
• FNOモデルは、学習時に使用した解像度よりも高い解像度の速度構造に一般化でき、再トレーニングなしに高速な評価が可能であった。
• アドジョイント波場の計算や相互相関の実行が不要となった。勾配は自動微分により直接計算された。
• 急激な不連続性や短波長特徴を有する速度構造に対しても、本手法は安定した性能を示し、強力な一般化能力を示した。
• 数千年分のシミュレーションで十分な性能を持つFNOを訓練でき、任意の新しい設定に対して、無視できるほどの時間で解を生成できた。