[論文レビュー] Machine Learning of Partial Differential Equations from Noise Data

Wenbo Cao, Weiwei Zhang|arXiv (Cornell University)|Sep 28, 2020

Model Reduction and Neural Networks参考文献 28被引用数 6

ひとこと要約

本論文は、ノイズが混入したデータから偏微分方程式（PDE）を同定するための周波数ドメイン機械学習手法を提案する。フーリエ変換を用いてノイズを低減し、正確な項同定のための新規スパース同定基準を導入する。この手法は、多様な代表的方程式において、信号対ノイズ比が低い状況下でもPDEの構造およびパラメータを高精度かつロバストに同定できる。

ABSTRACT

Machine learning of partial differential equations from data is a potential breakthrough to solve the lack of physical equations in complex dynamic systems, but because numerical differentiation is ill-posed to noise data, noise has become the biggest obstacle in the application of partial differential equation identification method. To overcome this problem, we propose Frequency Domain Identification method based on Fourier transforms, which effectively eliminates the influence of noise by using the low frequency component of frequency domain data to identify partial differential equations in frequency domain. We also propose a new sparse identification criterion, which can accurately identify the terms in the equation from low signal-to-noise ratio data. Through identifying a variety of canonical equations spanning a number of scientific domains, the proposed method is proved to have high accuracy and robustness for equation structure and parameters identification for low signal-to-noise ratio data. The method provides a promising technique to discover potential partial differential equations from noisy experimental data.

研究の動機と目的

• ノイズの混入した実験的データから偏微分方程式を同定する課題に取り組み、従来の数値微分手法が不安定な性質ゆえに失敗する状況を解消すること。
• 低信号対ノイズ比下で著しく性能が低下する既存のPDE同定手法の限界を克服すること。
• ノイズの多い現実世界のデータからPDEの構造およびパラメータを正確に回復できる、ロバストなフレームワークの構築。
• 低信号対ノイズ比状況に特化した新規スパース同定基準を導入し、項選択の正確性を向上させること。
• 異なる科学分野にまたがる多様な代表的PDE（拡散方程式、波動方程式、反応拡散方程式など）に一般化可能であることを実証すること。

提案手法

• 時間領域のノイズ混入データをフーリエ変換により周波数ドメインに変換し、ノイズの影響が小さい低周波成分に焦点を当てる。
• 微分がより安定で高周波ノイズに敏感でない周波数ドメインでPDE同定を実施する。
• 周波数ドメイン係数に基づく新規スパース同定基準を適用し、低信号対ノイズ比下でも誤検出を最小限に抑えてPDEの関連項を選択する。
• 周波数ドメインにおけるスパース回帰フレームワークを用いて、変換済みデータから元のPDE構造を再構築する。
• 逆フーリエ変換により時間領域に戻したPDEを再構築し、既知の解析的解と照合して検証する。
• システムの本質的ダイナミクスを保持する主要な周波数成分に焦点を当てることで、同定プロセスの最適化を図る。

実験結果

リサーチクエスチョン

• RQ1 周波数ドメインへの変換が、ノイズ混入データにおけるPDE同定のための数値微分の不安定性を効果的に緩和できるか？
• RQ2 提案されたスパース同定基準は、低信号対ノイズ比下でも真のPDE項とノイズを的確に区別できるか？
• RQ3 著しいノイズを含む実験的データから、正しいPDE構造およびパラメータをどの程度正確に回復できるか？
• RQ4 さまざまなノイズレベル下で、時間ドメインの同定手法と比較して、本手法のロバスト性および正確性はどの程度優れているか？
• RQ5 拡散方程式、波動方程式、反応拡散方程式など、異なる科学分野に属する多様なPDEタイプに一般化可能か？

主な発見

• 周波数ドメインでの同定手法は、PDE発見におけるノイズの影響を顕著に低減し、安定な微分と正確な項選択を可能にする。
• 提案されたスパース同定基準は、低信号対ノイズ比下でも真のPDE項を高精度で同定でき、標準的なスパース手法を上回る性能を示す。
• アドベクション-拡散方程式、波動方程式、反応拡散方程式といった代表的PDEを、最小限の構造的・パラメトリック誤差でノイズ混入データから同定に成功した。
• 多様な科学分野にわたりロバスト性が確認され、特定の式型に限定されない一般化可能性が裏付けられた。
• 信号対ノイズ比が10 dB未満に低下する状況でも、高い正確性を維持しており、従来手法が通常失敗する領域でも有効である。
• フーリエドメインにおける低周波成分の利用により、本質的ダイナミクスが保持されながら高周波ノイズが効果的にフィルタリングされ、同定の信頼性が向上した。