[論文レビュー] Bagging, optimized dynamic mode decomposition (BOP-DMD) for robust, stable forecasting with spatial and temporal uncertainty-quantification

Diya Sashidhar, J. Nathan Kutz|arXiv (Cornell University)|Jul 22, 2021

Model Reduction and Neural Networks参考文献 48被引用数 7

ひとこと要約

本稿では、ノイズに起因するバイアスを低減し、包括的な空間的・時間的不確実性評価（UQ）を提供する、安定でロバストな予測手法であるBaggingを組み込んだ最適化動的モード分解（BOP-DMD）を提案する。ノイズの影響を受けやすい実世界の時空間データに対して、ブートストラップされたスナップショットのアンサンブルを用いて最適化DMDモデルを訓練し、その出力を平均化することで、予測精度と信頼性を向上させるとともに、不確実性を定量化的に評価した確率的予測を可能にする。

ABSTRACT

Dynamic mode decomposition (DMD) provides a regression framework for adaptively learning a best-fit linear dynamics model over snapshots of temporal, or spatio-temporal, data. A diversity of regression techniques have been developed for producing the linear model approximation whose solutions are exponentials in time. For spatio-temporal data, DMD provides low-rank and interpretable models in the form of dominant modal structures along with their exponential/oscillatory behavior in time. The majority of DMD algorithms, however, are prone to bias errors from noisy measurements of the dynamics, leading to poor model fits and unstable forecasting capabilities. The optimized DMD algorithm minimizes the model bias with a variable projection optimization, thus leading to stabilized forecasting capabilities. Here, the optimized DMD algorithm is improved by using statistical bagging methods whereby a single set of snapshots is used to produce an ensemble of optimized DMD models. The outputs of these models are averaged to produce a bagging, optimized dynamic mode decomposition (BOP-DMD). BOP-DMD not only improves performance, it also robustifies the model and provides both spatial and temporal uncertainty quantification (UQ). Thus unlike currently available DMD algorithms, BOP-DMD provides a stable and robust model for probabilistic, or Bayesian forecasting with comprehensive UQ metrics.

研究の動機と目的

• 実世界のデータにおける測定ノイズによって引き起こされる標準的DMDアルゴリズムの不安定さとバイアスを解消すること。
• ノイズが伴う高次元の時空間系において、DMDの予測精度とロバスト性を向上させること。
• DMDベースの予測に対して空間的・時間的不確実性評価（UQ）を提供すること。これは、既存の多数のDMD変種では欠落している。
• 解釈可能でデータ効率が良く、工学、生物学、物理学分野における実世界応用に適した手法を開発すること。
• 統計的ブートストラップと変数プロジェクション最適化を統合し、DMDにおけるモデルの分散と過学習を低減すること。

提案手法

• 元のスナップショットデータの複数のサブセットを生成するためにブートストラップリサンプリングを用いる。
• 各ブートストラップサンプルを用いて、変数プロジェクションを介して最適化DMDモデルを訓練し、ノイズによるバイアスを最小化する。
• 全ブートストラップモデルのDMDモード、固有値、重みを平均化することで最終モデルを構築し、分散を低減する。
• 空間的不確実性は、空間全体におけるアンサンブル内でのDMDモードの標準偏差を計算することで評価する。
• 時間的不確実性は、アンサンブル内のDMD固有値にガウス分布をフィッティングすることで評価し、確率的予測を可能にする。
• モンテカルロシミュレーションを用いて、空間的および時間的UQ指標に基づく不確実性帯を有する予測アンサンブルを生成する。

実験結果

リサーチクエスチョン

• RQ1 ブートストラップは、ノイズのあるデータ下でDMDの安定性と精度を向上させ得るか？
• RQ2 ブートストラップと最適化DMDの組み合わせは、予測の空間的・時間的不確実性評価を信頼性を持って提供できるか？
• RQ3 BOP-DMDは、標準的DMDおよび最適化DMDと比較して、時空間ダイナミクスの再構築および予測において優れているか？
• RQ4 BOP-DMDは、ロバスト性と予測能力の向上を図りながらも、解釈可能性を維持しているか？
• RQ5 BOP-DMDは、高次元かつノイズの多い測定値を有する実世界データに効果的に適用可能か？

主な発見

• BOP-DMDは、特にノイズの強いデータ環境下で、標準的DMDおよび最適化DMDと比較してバイアスを顕著に低減し、予測精度を向上させた。
• 本手法は、エルニーニョ南振動現象（ENSO）のような複雑なダイナミクスが顕在する領域で、不確実性指標が高くなることを示し、モデルの信頼性が低い領域を的確に特定した。
• 時間的不確実性はDMD固有値の分布を用いて評価され、信頼区間を有する確率的予測を可能にした。
• 円柱周りの流れの事例では、ダイナミクスが低次元的であるため、BOP-DMDはほぼゼロの予測不確実性を達成した。
• 海面水温データセットでは、7.6年後の予測誤差と空間的不確実性指標との間に強い相関が観察され、UQの信頼性が裏付けられた。
• 本手法は、海面水温データを7.6年分正確に予測するためにたった5つのDMDモードで十分であった。これは、データ効率の高さを示している。