[論文レビュー] Machine Discovery of Partial Differential Equations from Spatiotemporal Data

Ye Yuan, Junlin Li+10 more|arXiv (Cornell University)|Sep 15, 2019

Model Reduction and Neural Networks参考文献 82被引用数 9

ひとこと要約

本論文は、スパースベイジアン学習を用いてモデルのスパarsityを強制することで、空間的・時間的データから解釈可能な偏微分方程式（PDE）を自動で同定するデータ駆動型フレームワーク、Sparse Spatiotemporal System Discovery（S³d）を提案する。この手法は、シミュレーションデータからナビエ＝ストークス方程式やサイン＝ゴルドン方程式を含む10個の代表的PDEを正しく同定し、移動波対流系の実験データを用いた検証を通じて、複雑な系における物理法則の発見を加速する可能性を示している。

ABSTRACT

The study presents a general framework for discovering underlying Partial Differential Equations (PDEs) using measured spatiotemporal data. The method, called Sparse Spatiotemporal System Discovery ($ ext{S}^3 ext{d}$), decides which physical terms are necessary and which can be removed (because they are physically negligible in the sense that they do not affect the dynamics too much) from a pool of candidate functions. The method is built on the recent development of Sparse Bayesian Learning; which enforces the sparsity in the to-be-identified PDEs, and therefore can balance the model complexity and fitting error with theoretical guarantees. Without leveraging prior knowledge or assumptions in the discovery process, we use an automated approach to discover ten types of PDEs, including the famous Navier-Stokes and sine-Gordon equations, from simulation data alone. Moreover, we demonstrate our data-driven discovery process with the Complex Ginzburg-Landau Equation (CGLE) using data measured from a traveling-wave convection experiment. Our machine discovery approach presents solutions that has the potential to inspire, support and assist physicists for the establishment of physical laws from measured spatiotemporal data, especially in notorious fields that are often too complex to allow a straightforward establishment of physical law, such as biophysics, fluid dynamics, neuroscience or nonlinear optics.

研究の動機と目的

• 測定された空間的・時間的データから、事前の物理的知識に依存せずに、一般化された自動フレームワークを構築すること。
• スパースベイジアン学習を用いてPDEの係数にスパarsityを強制することで、必要な物理的項と無視可能な項を同定すること。
• 理論的保証を備えたモデルの複雑さとフィッティング誤差のバランスを図ることで、解釈可能で正確なPDEの同定を可能にすること。
• 合成シミュレーションと実際の実験データの両方に対して手法を検証すること。特に、移動波対流実験から得られた複素Ginzburg-Landau方程式（CGL）を含む。
• 生物学的物理学、流体力学、非線形光学などの分野における、高次元で複雑な系における物理法則の発見を加速する支援を物理学者に提供すること。

提案手法

• 本手法は、状態変数の偏微分と非線形項を含む広範な候補関数の辞書を用いたスパース回帰問題としてPDE同定問題を定式化する。
• スパースベイジアン学習（SBL）を用いてPDEの係数ベクトルにスパarsityを強制し、適合精度と複雑さのバランスを取った簡潔なモデルを促進する。
• 2段階の最適化プロセスを用いる：まず、ノイズを含むデータから状態変数の微分を数値微分で計算し、次にスパース回帰問題を解いてPDEに含まれる有効な項を同定する。
• 複素数変数を扱う系の場合、複素数系を実数系に変換するための実数値変換を適用し、同じスパース回帰フレームワークを適用可能にする。
• 次元削減技術（例：適切直交分解（POD））を必要に応じて適用することで、高次元データに対してもスケーラブルなフレームワークを実現する。
• 最適化ステップの系列を通じて理論的収束性を確立し、適切な条件下で、アルゴリズムがスパース回帰目的関数を最小化する解に収束することを証明する。

実験結果

リサーチクエスチョン

• RQ1 事前の物理的仮定なしに、データ駆動型手法が空間的・時間的データから解釈可能な偏微分方程式（PDE）を自動で同定できるか？
• RQ2 ベイジアンスパarsity強制を伴うスパース回帰は、ノイズが多いか高次元のデータからPDEの正しい項の集合をどれほど効果的に同定できるか？
• RQ3 移動波対流系からの実験データに一般化可能か。具体的には、複素Ginzburg-Landau方程式（CGLE）のような既知のPDEを回復できるか？
• RQ4 複雑な力学系において、モデルの解釈可能性と予測精度のバランスをどの程度達成できるか？
• RQ5 非線形的・散逸的・分散的系を含む多様なPDEクラスに対して、この手法はどの程度の性能を示すか？

主な発見

• S³dフレームワークは、形式を事前に知らされない状態で、シミュレーションデータから10個の代表的PDE（ナビエ＝ストークス方程式やサイン＝ゴルドン方程式を含む）を正しく同定した。
• スパースベイジアン学習のスパarsity誘導特性のおかげで、ノイズを含むデータでも高い精度で正しいPDE構造を同定した。
• 移動波対流系からの実験データを用いた検証では、複素Ginzburg-Landau方程式（CGLE）を高い忠実度で回復した。
• 理論的収束保証付きのスパース回帰を用いることで、複雑さとフィッティング誤差のバランスを取った最小限の解釈可能なPDEモデルの同定が可能になった。
• PODなどの次元削減技術との統合により、高次元データに対するロバスト性とスケーラビリティを示した。
• 理論的分析により、最適化アルゴリズムがスパース回帰目的関数を最小化する解に収束することを確認し、同定されたモデルの信頼性を裏付けた。