[論文レビュー] OceanNet: A principled neural operator-based digital twin for regional oceans

Ashesh Chattopadhyay, Michael Gray+3 more|arXiv (Cornell University)|Oct 1, 2023

Oceanographic and Atmospheric Processes被引用数 4

ひとこと要約

OceanNet は、フーリエニューラルオペレーターと予測-評価-補正統合スキーム、スペクトル正則化を用いた物理情報付きニューラルオペレーターに基づく、地域海洋循環のデジタルツインである。スペクトルバイアスと自己回帰的誤差増大を抑制することで、歴史的表層水位データで学習し、グulfストリームのめばくらとループ・カレントの渦の季節予測性能が優れており、状態の最良の動的海洋モデル（ROMS）を上回りながら、計算コストを50万倍まで低減する。

ABSTRACT

While data-driven approaches demonstrate great potential in atmospheric modeling and weather forecasting, ocean modeling poses distinct challenges due to complex bathymetry, land, vertical structure, and flow non-linearity. This study introduces OceanNet, a principled neural operator-based digital twin for ocean circulation. OceanNet uses a Fourier neural operator and predictor-evaluate-corrector integration scheme to mitigate autoregressive error growth and enhance stability over extended time scales. A spectral regularizer counteracts spectral bias at smaller scales. OceanNet is applied to the northwest Atlantic Ocean western boundary current (the Gulf Stream), focusing on the task of seasonal prediction for Loop Current eddies and the Gulf Stream meander. Trained using historical sea surface height (SSH) data, OceanNet demonstrates competitive forecast skill by outperforming SSH predictions by an uncoupled, state-of-the-art dynamical ocean model forecast, reducing computation by 500,000 times. These accomplishments demonstrate the potential of physics-inspired deep neural operators as cost-effective alternatives to high-resolution numerical ocean models.

研究の動機と目的

• 計算コストと長期予測安定性の面で伝統的数値モデルに制限を受ける地域海洋循環の安定的かつデータ駆動型デジタルツインの開発。
• 乱流流れにおける小スケール海洋ダイナミクスの正確な表現を妨げる深層ニューラルネットワークのスペクトルバイアスを解消すること。
• 物理的インスピレーションを受ける深層学習と数値統合スキームを統合することで、長期的かつ高解像度の海洋予測を可能にすること。
• 表層水位データのみを用いて、グulfストリームのめばくらとループ・カレントの渦といった重要な海洋特徴の予測性能が競争的であることを実証すること。
• 運用海洋学および気候応用分野における高解像度数値海洋モデルのスケーラブルで計算効率の良い代替手段を確立すること。

提案手法

• OceanNet は、海洋状態入力と将来状態の間の非線形写像を学習するためのフーリエニューラルオペレーター（FNO）を採用し、空間的オペレーターの効率的かつパラメータ効率の良いモデリングを可能にする。
• 長期予測における自己回帰的誤差増大を緩和するために、予測-評価-補正（PEC）統合スキームが用いられ、数値的安定性が向上する。
• 予測された表層水位（SSH）フィールドのフーリエスペクトルにスペクトル正則化が適用され、高波数成分の逸脱をペナルティ化することで、スペクトルバイアスを是正する。
• 損失関数は、海洋グリッドポイントにおける平均二乗誤差（MSE）と、t+5Δt および t+10Δt 時刻における2タイムステップスペクトル正則化損失の組み合わせで構成され、モデルの安定性ホライズンが延長される。
• スペクトル正則化は、カットオフ波数 kT=100 を超える波数における緯度平均化されたゾーナルフーリエスペクトルを対象とし、トレーニング中に小スケールダイナミクスが保持されるようにする。
• 総損失は2タイムステップ損失の重み付き和であり、指数的メモリ増大を回避しながら、正確な長距離ダイナミクスを学習可能にする。

Figure 1: The domain for the reanalysis data covering the northwestern Atlantic (a). The two subdomains used to develop OceanNet, specifically (b) the GS separation from the central US east coast to 60 ∘ W and (c) tthe LC eddy-shedding region in the eastern GoM, extending from 92 ∘ W into the Atlant

実験結果

リサーチクエスチョン

• RQ1 データ駆動型ニューラルオペレーター・モデルは、グulfストリームのめばくらやループ・カレントの渦のような複雑な特徴を含め、地域海洋循環の長期的かつ正確な予測を安定的に行うことができるか？
• RQ2 海洋モデリングにおいて、深層ニューラルネットワークのスペクトルバイアスを効果的に是正する方法は何か？ これにより、小スケール乱流ダイナミクスが保持される。
• RQ3 予測-評価-補正スキームを備えた物理情報付きニューラルオペレーターは、ROMS のような高解像度動的海洋モデルを、季節予測タスクで上回ることができるか？
• RQ4 スペクトル正則化を施した2タイムステップ損失関数は、標準的なMSE学習に比べ、海洋予測の安定性と正確性を向上させるか？
• RQ5 完全にデータ駆動型の海洋モデルは、従来の数値モデルと比較して、100万倍の低い計算コストで競争的性能を達成できるか？

主な発見

• OceanNet は、北大西洋の表層水位（SSH）フィールドを予測する際、状態の最良の地域海洋モデリングシステム（ROMS）を上回り、特にグulfストリームのめばくらとループ・カレントの渦の季節予測において優れた性能を示す。
• ROMS と比較して、計算コストを50万倍まで低減し、予測精度を維持または上回るという顕著な効率的利点を示している。
• 予測-評価-補正（PEC）統合スキームの使用により、自己回帰的誤差増大が顕著に低減され、予測の長期的安定性が向上している。
• スペクトル正則化は、SSH フィールドのフーリエスペクトルにおける高波数成分を保持することで、スペクトルバイアスを効果的に抑制し、小スケール特徴の表現が改善されている。
• t+5Δt および t+10Δt 時刻における2タイムステップ損失関数は、指数的メモリ増大を回避しながらモデルの安定性ホライズンを延長し、信頼性の高い長期予測を可能にしている。
• OceanNet は、高解像度SSH フィールドを予測する分野で、高解像度数値モデルを上回るか同等の性能を示した、最初の完全にデータ駆動型の海洋モデルである。

Figure 3: OceanNet performance metrics in the GoM: RMSE (a-c), CC (d-f), and MHD (g-i). In the left column, probability density functions (PDFs) are presented for 1,000 random pairs sourced from the training data spanning 1993-2018 (means shown by black horizontal lines). The performance statistics,