[論文レビュー] No equations, no parameters, no variables: data, and the reconstruction of normal forms by learning informed observation geometries

Or Yair, Ronen Talmon+2 more|arXiv (Cornell University)|Nov 30, 2016

Model Reduction and Neural Networks参考文献 11被引用数 4

ひとこと要約

本稿では、微分方程式やパラメータ、状態変数の事前知識なしに非線形力学系の正規形をデータ駆動で再構築する手法を提案する。短い時系列データ上で反復的メトリック学習と拡散マップを用いて、情報に基づいた観測幾何を学習することで、内在的な力学的状態、位相図、パrametricな時間発展を推定する。本手法は、ラベルなし、物理的モデルなしのスパarsなノイズあり時系列データからも、元の力学的挙動を的確に回復できる。

ABSTRACT

The discovery of physical laws consistent with empirical observations lies at the heart of (applied) science and engineering. These laws typically take the form of nonlinear differential equations depending on parameters, dynamical systems theory provides, through the appropriate normal forms, an "intrinsic", prototypical characterization of the types of dynamical regimes accessible to a given model. Using an implementation of data-informed geometry learning we directly reconstruct the relevant "normal forms": a quantitative mapping from empirical observations to prototypical realizations of the underlying dynamics. Interestingly, the state variables and the parameters of these realizations are inferred from the empirical observations, without prior knowledge or understanding, they parametrize the dynamics {\em intrinsically}, without explicit reference to fundamental physical quantities.

研究の動機と目的

• 非線形系の内在的力学的構造を、支配方程式、パラメータ、状態変数の事前知識なしに、実験的観測から同定すること。
• 複数のパラメータ設定における短いノイズあり時系列データから直接、系の典型的挙動を捉える正規形を推定すること。
• 物理的モデルを明示的に必要とせず、観測の幾何を学習することで位相図とパラメトリックな時間発展を再構築する、体系的かつデータ駆動のフレームワークを構築すること。
• 限られたデータ、未知のパラメータ、複雑な観測関数の下で、従来手法が失敗する状況でもシステム同定を可能にすること。
• 時間変動するパラメータや未知の観測関数の下でも、解析的解が存在しない状況においても、力学的挙動の再構築の頑健性を示すこと。

提案手法

• 複数の試行（パラメータ設定）、測定変数（変数）、時刻点からなる3次元時系列データテンソルを用いる。
• Algorithm 2を用いた反復的メトリック学習により、データ内の対比較類似度を活用して、パラメータ軸、変数軸、時刻軸の幾何を推定する。
• 学習済みメトリクスを用いた拡散マップを用いて、各軸の内在的力学を表す低次元多様体にデータを埋め込む。
• 2つの軸にパーティションツリーを構築し、フィルタを計算することで、第3の軸のメトリクスを推定する。L1距離とフィルタによる特徴変換を組み合わせる。
• 生の距離と変換された特徴距離を組み合わせた情報に基づいたメトリクスを導入する：$\|\mathbf{y}_c - \mathbf{y}_{c'}\|_{(c)} = \|\mathbf{y}_c - \mathbf{y}_{c'}\|_1 + \gamma \|\mathcal{F}_{(c)}(\mathbf{y}_c) - \mathcal{F}_{(c)}(\mathbf{y}_{c'})\|_1$。
• 学習と埋め込みを繰り返し行うフィードバックループを用いて、パラメータ、変数、時刻の3軸のメトリクスを反復的に最適化し、自己整合的な力学的状態の再構築を可能にする。

実験結果

リサーチクエスチョン

• RQ1 非線形力学系の正規形は、方程式やパラメータ、状態変数の事前知識なしに、短くスパarsな時系列データから再構築可能か？
• RQ2 対比較類似度のみを用いて、位相図や分岐挙動といった内在的力学的構造を、実験的観測からどのように推定できるか？
• RQ3 解析的モデルが存在しない状況で、データ駆動手法が、時間変動パラメータを含むパラメトリックな時間発展をどの程度正確に回復できるか？
• RQ4 スプリング定数が時間変動するような系において、複数の周期的モード（周波数）を、信頼性高く同定・分離できるか？
• RQ5 ラベルなし、既知の物理的量なしの状況、特に観測関数が未知または複雑な場合でも、本手法はどの程度有効に機能するか？

主な発見

• 本手法は、視覚的に区別がつかないデータでも、短い軌道からも正規形を的確に再構築でき、従来の可視化的手法では失敗する状況でも有効である。
• 時間変動するばね定数 $k(t) = 1500t + 10$ の場合、主成分固有ベクトルのフーリエスペクトログラムにより、固定周波数 $\omega_1 = \sqrt{g/L}$ と時間変動する周波数 $\omega_2(t)$ の両方を正確に回復した。
• アルゴリズムによる実験的解は、系に存在する2つの異なる周期的モードを捉えており、非定常な複雑な状況下でも頑健であることを示している。
• ラベルがシャッフルされた状態でも、明示的なラベルなしに、データの内在的幾何を学習することで、正しい力学的状態と試行のパラメータ順序を同定できた。
• 反復的メトリック学習プロセスは、パラメータ、変数、時刻の3軸の整合的な埋め込みに収束し、表形式で解釈可能な形で時間発展方程式を再構築できた。
• 観測関数が未知または複雑な場合でも、本手法は有効であり、非自明で時間依存する測定関数を持つ系においても、力学的挙動を回復できた。