[論文レビュー] Finite Volume Neural Network: Modeling Subsurface Contaminant Transport

Timothy Praditia, Matthias Karlbauer+4 more|arXiv (Cornell University)|Apr 13, 2021

Model Reduction and Neural Networks参考文献 13被引用数 11

ひとこと要約

本論文では、有限体積法の保存構造をニューラルネットワークと統合することで、地下水中の汚染物質移動をモデル化する、物理的制約を組み込んだ深層学習フレームワーク、Finite Volume Neural Network (FINN) を提案する。FINN は、希なまたは部分的なデータでも、空間的・時間的濃度場の正確で一般化可能な予測を可能にするとともに、遅延係数のような構成的関係を明示的に学習し、境界条件の変化にかかわらず、標準的なニューラルネットワークや数値的 PDE モデルを上回る精度と頑健性を実現する。

ABSTRACT

Data-driven modeling of spatiotemporal physical processes with general deep learning methods is a highly challenging task. It is further exacerbated by the limited availability of data, leading to poor generalizations in standard neural network models. To tackle this issue, we introduce a new approach called the Finite Volume Neural Network (FINN). The FINN method adopts the numerical structure of the well-known Finite Volume Method for handling partial differential equations, so that each quantity of interest follows its own adaptable conservation law, while it concurrently accommodates learnable parameters. As a result, FINN enables better handling of fluxes between control volumes and therefore proper treatment of different types of numerical boundary conditions. We demonstrate the effectiveness of our approach with a subsurface contaminant transport problem, which is governed by a non-linear diffusion-sorption process. FINN does not only generalize better to differing boundary conditions compared to other methods, it is also capable to explicitly extract and learn the constitutive relationships (expressed by the retardation factor). More importantly, FINN shows excellent generalization ability when applied to both synthetic datasets and real, sparse experimental data, thus underlining its relevance as a data-driven modeling tool.

研究の動機と目的

• 限られた希なデータによる時空間的物理的プロセスにおける標準的な深層学習モデルの一般化性能の低さを是正すること。
• 既存の物理的制約付きニューラルネットワークにおけるフラックス保存の欠如および境界条件の適切な取り扱いの欠如を克服すること。
• 有限体積法の構造的保存則を学習可能なニューラルネットワークアーキテクチャに埋め込むハイブリッドモデルの開発。
• 部分的な観測、例えば1か所でのブレークスルー曲線からの全領域予測を正確に可能にすること。
• 実験データから、遅延係数のような隠れた構成的関係を抽出・学習すること。

提案手法

• FINN は有限体積の制御体積に基づいてニューラルネットワークを構築し、各セルは隣接セルからのフラックスに基づいて時間微分を計算する。
• フラックスカーネル (Φθ) は、PDE の発散項を、セルとその周囲のセルからの入力を用いて近似し、フラックスの局所的保存を保証する。
• 各フラックスカーネルは、数値ステンシルを学習する部品 (N) と、濃度関数としての拡散係数を学習する部品 (D) を有する。
• ネットワークは、ブレークスルー曲線や全濃度プロファイルなどの観測データに基づく損失関数を用いて学習される。
• 境界条件は有限体積フレームワークによって自然に組み込まれ、ディリクレ境界条件、ノイマン境界条件、混合境界条件を適切に処理できる。
• アーキテクチャはバックプロパゲーションによるエンドツーエンド学習を可能とし、物理的構造と学習可能なパラメータを同時に最適化できる。

実験結果

リサーチクエスチョン

• RQ1 有限体積法の保存構造を埋め込んだニューラルネットワークアーキテクチャは、地下水中の汚染物質移動において、標準的な深層学習モデルよりも優れた一般化性能を達成できるか？
• RQ2 部分的な観測、例えば1つのブレークスルー曲線からのみ学習した場合に、モデルは全領域の濃度ダイナミクスをどれほど正確に予測できるか？
• RQ3 モデルは、希な実験データから濃度関数としての遅延係数を効果的に学習・抽出できるか？
• RQ4 従来の数値的 PDE スolver や他のニューラルネットワークモデルと比較して、FINN は異なる境界条件下でどの程度の性能を示すか？
• RQ5 モデルは、未学習のコアサンプルや異なる実験設定に適用されても、精度を維持できるか？

主な発見

• 合成データにおいて FINN は MSE 4.84×10⁻⁴ を達成し、キャリブレーション済み PDE モデル (MSE = 1.06×10⁻³) を上回った。
• コアサンプル #1 において、FINN は MSE 1.37×10⁻³ を達成したが、数値モデルは MSE 2.50×10⁻³ と低く予測した。
• ゼロフラックスのノイマン境界条件で、ブレークスルーデータのないコアサンプル #2B において、FINN は MSE 1.16×10⁻³ を達成し、数値モデル (MSE = 2.73×10⁻³) を上回った。
• FINN は濃度関数としての遅延係数を効果的に抽出し、物理的に解釈可能で説明可能なモデル行動を提供した。
• モデルは境界条件の変化や実験設定の違いに対しても良好に一般化され、データの希少性や構造的変化に対して頑健であることが示された。
• すべてのテストケースにおいて、FINN の予測は実験データとよく一致し、破壊的サンプリングプロファイルを含むものも含めて、予測の正確性と物理的一致性が確認された。