[論文レビュー] Data-Driven Reduction for Multiscale Stochastic Dynamical Systems

Carmeline J. Dsilva, Ronen Talmon+3 more|arXiv (Cornell University)|Jan 21, 2015

Neural Networks and Applications参考文献 22被引用数 8

ひとこと要約

本論文は、短時間の軌道バーストからの局所的共分散推定を用いて、高速なダイナミクスを抑制するマハラノビス距離度合いを用いた拡散マップを用いて、マルチスケール確率的力学系からスローバリエーブルをデータ駆動で抽出する手法を提案する。この手法は、非線形観測関数に対してもロバストにスローバリエーブルを回復でき、メモリ項を必要とせず、複数のセンサーや測定タイプ間のデータ統合を可能にする次元削減を実現する。

ABSTRACT

Multiple time scale stochastic dynamical systems are ubiquitous in science and engineering, and the reduction of such systems and their models to only their slow components is often essential for scientific computation and further analysis. Rather than being available in the form of an explicit analytical model, often such systems can only be observed as a data set which exhibits dynamics on several time scales. We will focus on applying and adapting data mining and manifold learning techniques to detect the slow components in such multiscale data. Traditional data mining methods are based on metrics (and thus, geometries) which are not informed of the multiscale nature of the underlying system dynamics; such methods cannot successfully recover the slow variables. Here, we present an approach which utilizes both the local geometry and the local dynamics within the data set through a metric which is both insensitive to the fast variables and more general than simple statistical averaging. Our analysis of the approach provides conditions for successfully recovering the underlying slow variables, as well as an empirical protocol guiding the selection of the method parameters.

研究の動機と目的

• 解析的モデルが入手できない状況下で、データのみを用いてマルチスケール確率的力学系におけるスローバリエーブルを同定する手法を開発すること。
• ユークリッド距離に依存する従来の多様体学習手法が、データ内の時間スケール分離を十分に考慮できないという制限を克服すること。
• 局所的共分散推定を通じて、スローダイナミクスを捉えつつ、高速変数に敏感でない度合いを構築すること。
• 下位のスローダイナミクスを尊重する低次元パラメータ化を抽出することで、複雑系の低次元モデル化を可能にすること。
• 異なる測定関数やセンサからのデータを共通の座標系に統合できるインvariantな座標を構築すること。

提案手法

• 本手法は、スローバリエーブルの変動を強調し、高速フラクチュエーションを抑制するために、マハラノビス距離度合いを用いた拡散マップを採用する。
• 各データポイントの周囲における短時間の軌道バーストから局所的共分散行列を推定し、マハラノビス度合いを定義する。
• マハラノビス距離は、局所的分散構造を考慮することで、高速方向を圧縮し、高速ダイナミクスに対して不変となる。
• カーネルスケールパラメータ $\sigma_{\text{kernel}}$ と統合時間 $\delta t$ を調整することで、スローバリエーブルが最初の拡散マップ座標に正しく反映されるようにする。
• 非線形観測関数に対して不変であるため、異なるセンサや測定タイプからのデータを共通の座標系に統合できる。
• パラメータ $\delta t$ と $\sigma_{\text{kernel}}$ の選定に関する実証的プロトコルが提供され、$\|\mathbf{C}\|$ と $\|\mathbf{E}_C\|$ の相対的な大きさに基づく。

実験結果

リサーチクエスチョン

• RQ1 時間系列データのみが入手可能なマルチスケール確率的力学系において、データ駆動的手法が真のスローバリエーブルを回復できるか？
• RQ2 高速変数に敏感でないが、スローマニフォールドの内在的幾何を保持するような距離度合いをどのように設計できるか？
• RQ3 最初の拡散マップ座標が真のスローバリエーブルに対応するための条件は何か？
• RQ4 スローバリエーブルの成功した回復を達成するためには、パラメータ $\delta t$ と $\sigma_{\text{kernel}}$ をどのように選べばよいか？
• RQ5 本手法は、複数のセンサや観測関数からのデータに適用可能であり、共通の座標系におけるデータ統合を可能にするか？

主な発見

• マハラノビス距離は、データ内の高速方向を効果的に圧縮し、拡散マップに組み込むことで、スローバリエーブルの正確な回復を可能にする。
• $\|\mathbf{E}_C\| \ll \|\mathbf{C}\|$ の場合、最初の拡散マップ座標は真のスローバリエーブルと一致し、成功した回復を示す。
• $\delta t = 10^{-7}$ および $\sigma_{\text{kernel}}^2 = 10^{-2}$ の場合、図9(a)に示すように、スローバリエーブルが1対1で回復される。
• $\delta t = 10^{-3}$ または $\sigma_{\text{kernel}}^2 = 10^1$ の場合、不適切なパラメータ選定により、スローバリエーブルの回復に失敗する。
• 本手法は非線形観測関数に対して不変であるため、異なるセンサからのデータを1つのパラメータ化に統合できる。
• 有限サンプリング効果やデータ密度が $\delta t$ と $\sigma_{\text{kernel}}$ の選定を制限しており、有限サンプル領域におけるさらなる分析の必要性を示唆する。