[論文レビュー] Reconstructing Nonlinear Dynamical Systems from Multi-Modal Time Series

Daniel Kramer, Philine Lou Bommer+3 more|arXiv (Cornell University)|Nov 4, 2021

Neural dynamics and brain function被引用数 8

ひとこと要約

本稿では、連続的、カテゴリー的、カウントベースの観測（例：連続的、カテゴリカル、カウント）を含む異種時系列データから非線形力学系を再構築するためのマルチモーダル確率的潜在RNN（mmPLRNN）フレームワークを提案する。一般化線形モデルをモダリティ固有に統合し、動的解釈可能なRNNとEM法または変分推論を用いて訓練することで、個々のモダリティがノイズが多いか欠損している場合でも、ローレンツ系や神経科学ベンチマークにおいて、優れた力学的再構築性能と高いロバスト性を示した。

ABSTRACT

Empirically observed time series in physics, biology, or medicine, are commonly generated by some underlying dynamical system (DS) which is the target of scientific interest. There is an increasing interest to harvest machine learning methods to reconstruct this latent DS in a data-driven, unsupervised way. In many areas of science it is common to sample time series observations from many data modalities simultaneously, e.g. electrophysiological and behavioral time series in a typical neuroscience experiment. However, current machine learning tools for reconstructing DSs usually focus on just one data modality. Here we propose a general framework for multi-modal data integration for the purpose of nonlinear DS reconstruction and the analysis of cross-modal relations. This framework is based on dynamically interpretable recurrent neural networks as general approximators of nonlinear DSs, coupled to sets of modality-specific decoder models from the class of generalized linear models. Both an expectation-maximization and a variational inference algorithm for model training are advanced and compared. We show on nonlinear DS benchmarks that our algorithms can efficiently compensate for too noisy or missing information in one data channel by exploiting other channels, and demonstrate on experimental neuroscience data how the algorithm learns to link different data domains to the underlying dynamics.

研究の動機と目的

• 複数の質的に異なるデータモダリティ（例：連続的、カテゴリカル、カウント）が利用可能な状況において、データ駆動型の非線形力学系再構築のギャップを埋めること。
• 幾何的および時間的不変性を保ちつつ、複数のモダリティ観測を統合する1つの潜在力学系モデルに統一するフレームワークの開発。
• 個々のモダリティがノイズや欠損にさらされても、モダリティ間の補完的情報を活用することで、潜在的力学的挙動のロバストな再構築を可能にすること。
• 一般化線形モデル（GLMs）を用いた多様な観測タイプの統合により、真の非線形系のベクトル場を一般化関数近似器で近似する理論的根拠に基づいた動的解釈可能なモデルの提供。

提案手法

• フレームワークは、潜在非線形力学系のベクトル場を普遍的近似器として使用する確率的潜在RNN（PLRNN）を用いる。
• 各データモダリティは、モダリティ固有の観測モデルでモデル化される：ガウス分布（線形-ガウス型）、カテゴリカル分布（ロジットリンク）、ガンマ分布（対数リンク）、ゼロインflatedポisson分布（ZIP）と対数リンク。
• 同時尤度は全モダリティにわたって要因分解され、ニューラルネットワークベースの変分後退分布を用いた変分推論により近似される。
• 2つの訓練アルゴリズムが開発された：期待値最大化（EM）アルゴリズムと変分推論（VI）アルゴリズム。両者とも、潜在的力学的挙動と観測パラメータのエンドツーエンド学習を可能にする。
• パラメータは確率的勾配降下法により最適化され、周辺尤度の下界（ELBO）を最大化することでモデルを訓練する。
• アーキテクチャには、モダリティ固有の入力ストリーム、共有された潜在表現、およびデコーディング前にマルチモーダル情報を統合する階層的構造が含まれる。

実験結果

リサーチクエスチョン

• RQ1 複数の異種時系列モダリティが利用可能であっても、ノイズが多いか不完全な場合に、統一モデルが真の非線形力学系をより正確に再構築できるか。
• RQ2 行動反応やスパイクカウントなどのカテゴリカルおよびカウントベースの観測を統合することで、単一モダリティ手法と比較して、連続的アトラクター力学の再構築がどの程度改善されるか。
• RQ3 1つのモダリティに高いノイズや欠損が生じた場合、他のモダリティからの情報でどの程度補償可能か。
• RQ4 多様な観測タイプに一般化線形モデル（GLMs）を用いることで、真の力学系の幾何的および時間的構造がどの程度保持されるか。
• RQ5 マルチモーダル力学系再構築において、EM法と変分推論法は収束性、安定性、再構築精度の観点でどのように比較されるか。

主な発見

• mmPLRNNフレームワークは、ガウス分布の観測に20％のノイズが加わっても、複数のモダリティを用いることでローレンツアトラクターの幾何的再構築精度が顕著に向上した。
• ガウス観測が著しくノイズが多い場合、ガンマ分布やZIP観測などの追加モダリティの統合により、アトラクター再構築性能が向上し、モダリティ間補償が実証された。
• ガンマ分布やZIP観測からの単独再構築は、情報量が少なくスパースであるため、特に複雑なアトラクターでは効果がなかった。
• マルチモーダル設定では、真の後退分布と近似後退分布の中央値KLダイバージェンスが、単一モダリティベースラインと比較して最大40％まで低減された。
• mmPLRNNは、実験的神経科学データにおいて、神経的BOLD信号と行動分類ラベルを効果的に統合し、複数モダリティにわたる一貫性のある潜在的力学的挙動を明らかにした。
• 変分推論アプローチはEM法と同等またはより優れた性能を示し、収束が速く、高次元データへのスケーラビリティに優れていた。