[論文レビュー] Stability selection enables robust learning of partial differential equations from limited noisy data

Suryanarayana Maddu, Bevan L. Cheeseman+2 more|arXiv (Cornell University)|Jul 17, 2019

Probabilistic and Robust Engineering Design参考文献 66被引用数 15

ひとこと要約

本稿では、限られたノイズの多い時空間データから部分微分方程式（PDE）をロバストでパラメータフリーに同定できる、安定性選択に基づくフレームワークPDE-STRIDEを提案する。安定性選択と反復的ハードスレッショルド処理を組み合わせることで、模擬的および生物学的データの両方において、高い精度とノイズ耐性を達成し、C. elegansの極性形成における反応拡散ダイナミクスを再構築した。

ABSTRACT

We present a statistical learning framework for robust identification of partial differential equations from noisy spatiotemporal data. Extending previous sparse regression approaches for inferring PDE models from simulated data, we address key issues that have thus far limited the application of these methods to noisy experimental data, namely their robustness against noise and the need for manual parameter tuning. We address both points by proposing a stability-based model selection scheme to determine the level of regularization required for reproducible recovery of the underlying PDE. This avoids manual parameter tuning and provides a principled way to improve the method's robustness against noise in the data. Our stability selection approach, termed PDE-STRIDE, can be combined with any sparsity-promoting penalized regression model and provides an interpretable criterion for model component importance. We show that in particular the combination of stability selection with the iterative hard-thresholding algorithm from compressed sensing provides a fast, parameter-free, and robust computational framework for PDE inference that outperforms previous algorithmic approaches with respect to recovery accuracy, amount of data required, and robustness to noise. We illustrate the performance of our approach on a wide range of noise-corrupted simulated benchmark problems, including 1D Burgers, 2D vorticity-transport, and 3D reaction-diffusion problems. We demonstrate the practical applicability of our method on real-world data by considering a purely data-driven re-evaluation of the advective triggering hypothesis for an embryonic polarization system in C.~elegans. Using fluorescence microscopy images of C.~elegans zygotes as input data, our framework is able to recover the PDE model for the regulatory reaction-diffusion-flow network of the associated proteins.

研究の動機と目的

• ノイズの多い実験的データに適用された既存のスパース回帰手法におけるPDE同定のロバスト性の欠如に対処すること。
• PDE学習フレームワークにおける正則化パラメータの手動チューニングの必要性を排除すること。
• 信頼性と解釈可能性を高める、原理的かつ再現可能なモデル選択戦略の開発。
• 本手法の有効性を、合成ベンチマーク問題およびC. elegans胚の極性といった実世界の生物学的データに対して実証すること。
• 各モデル構成要素の解釈可能な重要度スコアの提供により、直感的なモデル構築と検証を可能にすること。

提案手法

• PDE同定における正則化レベルの選択のための安定性選択フレームワーク—PDE-STRIDEを提案。繰り返しの部分集合抽出と成分頻度の追跡を用いる。
• 圧縮センシングの反復的ハードスレッショルド（IHT）アルゴリズムと安定性選択を統合し、高速でパラメータフリーなPDE学習を実現。
• 空間的・時間的微分および非線形項を含む候補PDE項の辞書を、直接ノイズの多いデータから計算。
• データの部分集合抽出を適用し、複数のトレーニングセットを生成。これらのセット間でモデル成分の頻度を計算し、高い安定性スコアを持つ成分を選択。
• 各項が選択された部分集合の割合に基づくスレッショルドルールを採用。再現性を高め、誤検出を低減。
• 各候補PDE項の確率的重要度測度を提供することで、解釈可能なモデル同定を可能に。

実験結果

リサーチクエスチョン

• RQ1 安定性選択は、手動による正則化チューニングを伴わずに、限られたノイズの多いデータからのPDE同定のロバスト性を向上させ得るか？
• RQ2 PDE-STRIDEフレームワークは、ノイズレベルが上昇する条件下でも、既知のPDE（例：Burgers方程式、渦度輸送方程式、Gray-Scott反応拡散方程式）をどれほど正確に回復できるか？
• RQ3 PDE-STRIDEは、C. elegansの極性形成のための実際の蛍光顕微鏡画像から、生物学的に関連性のあるPDEモデルをどの程度回復できるか？
• RQ4 本手法は、異なるデータおよびノイズ条件の下で、正確なPDE回復に必要なサンプルサイズを信頼性高く推定できるか？
• RQ5 安定性パスと成分の重要度スコアは、複雑な生物学的系において、半自動的かつ解釈可能なモデル同定をどのように支援するか？

主な発見

• PDE-STRIDEは、ガウスノイズが最大6%まで混入したデータから、1次元Burgers方程式、2次元渦度輸送方程式、3次元Gray-Scott反応拡散方程式を完全に回復した。
• サンプルサイズが増加するにつれて一貫した回復確率を示し、統計的整合性およびノイズ耐性の両面で有効であることを確認した。
• 本手法は、既存の物理法則の知識なしに、蛍光顕微鏡画像からC. elegansの極性形成ネットワークのデータ駆動型PDEモデルを成功裏に同定した。
• 回復されたPDEモデルは、実験で観察された初期の空間的領域から完全に極性化したパターンへの時空間的ダイナミクスを正確に予測した。
• 長年の生化学的実験で同定済みの主要な調節タンパク質間の相互抑制的相互作用が、データから自動的に回復された。
• 安定性パスと成分の重要度スコアは、モデル構造に関する解釈可能な確率的インサイトを提供し、直感的なモデル検証と最適化を可能にした。