[論文レビュー] Online Weak-form Sparse Identification of Partial Differential Equations

Daniel A. Messenger, Emiliano Dall’Anese+1 more|PubMed|Mar 8, 2022

Model Reduction and Neural Networks参考文献 13被引用数 4

ひとこと要約

本稿では、弱形式離散化とオンライン近接勾配降下法を用い、直接的な $\boldsymbol{\ell}_0$-ノルムしきい値処理を組み合わせた、偏微分方程式（PDE）のオンライン弱形式スパース同定アルゴリズムを提案する。この手法により、メモリ効率が良く、ノイズが高く次元が大きい状況下でも、時間変動する係数の同定と追跡が可能となり、Kuramoto-Sivashinsky方程式や波動方程式などの系を1次元から3次元の空間領域で、10%のノイズ下でも高い精度で同定できる。

ABSTRACT

This paper presents an online algorithm for identification of partial differential equations (PDEs) based on the weak-form sparse identification of nonlinear dynamics algorithm (WSINDy). The algorithm is online in the sense that if performs the identification task by processing solution snapshots that arrive sequentially. The core of the method combines a weak-form discretization of candidate PDEs with an online proximal gradient descent approach to the sparse regression problem. In particular, we do not regularize the <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mrow><mml:msub><mml:mi>ℓ</mml:mi><mml:mn>0</mml:mn></mml:msub></mml:mrow></mml:math>-pseudo-norm, instead finding that directly applying its proximal operator (which corresponds to a hard thresholding) leads to efficient online system identification from noisy data. We demonstrate the success of the method on the Kuramoto-Sivashinsky equation, the nonlinear wave equation with time-varying wavespeed, and the linear wave equation, in one, two, and three spatial dimensions, respectively. In particular, our examples show that the method is capable of identifying and tracking systems with coefficients that vary abruptly in time, and offers a streaming alternative to problems in higher dimensions.

研究の動機と目的

• ストリーミングで供給されるノイズの高い時空間データから、限られたメモリと計算リソースを用いてPDEを同定する課題に対処する。
• オンラインで逐次的に処理することで、時間変動するPDE係数のリアルタイム同定と追跡を可能にする。
• 高次元PDEにおいてバッチ手法に起因する制限を克服するため、問題をストリーミング最適化タスクに再定式化する。
• ノイズや係数の動的変化に強い、バッチWSINDyの代替手段として、メモリ効率の良い代替手法を開発する。
• PDEのスパース回帰におけるオンライン設定で、ℓ₀擬ノルムの近接作用素（ハードしきい値処理）を直接適用する有効性を示す。

提案手法

• 数値微分の代わりにテスト関数との積分を用いる弱形式離散化を用いて、ノイズ耐性を向上させるPDE同定問題を定式化する。
• ℓ₀擬ノルムによる正則化を施した最小二乗コスト関数に対して、オンライン近接勾配降下法を適用し、一般的なℓ₁正則化のヒューリスティクスを回避する。
• ℓ₀ノルムの近接作用素（ハードしきい値処理）を直接適用し、ノイズ環境下でのオンラインスパース回帰において有効であることが示された。
• 各タイムステップでデータスナップショットを逐次処理し、保存する必要がある過去スナップショットの固定メモリ窓 $K_{\text{mem}}$ のみを維持することで、ストレージと計算負荷を低減する。
• 最適化プロセス中に正則化パラメータ $π\boldsymbol{\text{λ}}_t$ を動的に調整し、スパarsityと精度のバランスを取る。
• 弱形式積分を効率的に計算するために畳み込み演算を用い、高次元PDEへのスケーラビリティを実現する。

実験結果

リサーチクエスチョン

• RQ1 限られた過去データスナップショットのメモリ窓のみを用いて、オンラインPDE同定が高精度で達成可能か？
• RQ2 オンラインスパース回帰におけるPDE同定において、直接的なℓ₀近接作用素（ハードしきい値処理）がℓ₁正則化を上回る性能を示すか？
• RQ3 急激に変化する係数を伴うPDEを、高いノイズレベル下でも同定できるか？
• RQ4 ストリーミングデータと限られたメモリを用いて、高次元PDE（例：3次元波動方程式）にスケーリング可能か？
• RQ5 メモリ窓サイズ $K_{\text{mem}}$ が、オンラインPDE同定の精度と安定性に与える影響はどの程度か？

主な発見

• Kuramoto-Sivashinsky方程式は、10%NRまでの全ノイズレベルで平均係数誤差が1%未満に抑えられ、$K_{\text{mem}} = 13$ でも同定に成功した。
• 時間変動する波動速度を伴う非線形波動方程式では、アルゴリズムが係数変化を正確に追跡し、最小限の誤差で正しいPDE構造を回復した。10%のノイズ下でも同様に有効であった。
• 3次元線形波動方程式のケースでは、$K_{\text{mem}} \boldsymbol{\text{≥q}} 17$ の条件下で10%のノイズ下でも、係数の精度が2桁以上の有効数字に達した。試行の5%程度で誤った項が出現した。
• アルゴリズムはノイズに対して高い耐性を示した。$K_{\text{mem}} \boldsymbol{\text{≥q}} 17$ の条件下では、全テストケースで10%のノイズ下でも係数回復が正確に維持された。
• 直接的なℓ₀近接しきい値処理（ハードしきい値処理）の適用により、特に係数の急激な変化に対処する際、ℓ₁正則化よりも優れた性能が得られた。
• 本手法は、高次元問題（例：3次元PDE）におけるバッチ処理の代替手段として、メモリ効率の良いストリーミングベースのPDE同定を可能にした。