[論文レビュー] Learning Continuous System Dynamics from Irregularly-Sampled Partial Observations

Zijie Huang, Yizhou Sun+1 more|arXiv (Cornell University)|Nov 8, 2020

Time Series Analysis and Forecasting参考文献 22被引用数 25

ひとこと要約

本稿では、時間的自己注意を備えたグラフニューラルネットワークエンコーダを用いて、不規則にサンプリングされた部分観測された軌道から連続的マルチエージェント系のダイナミクスを共同で推定することで、不規則にサンプリングされ部分的に観測された軌道から連続的マルチエージェント系のダイナミクスを学習する潜在一般微分方程式モデルLG-ODEを提案する。本手法は、モーショングラブ、スプリング、 charged particle データセットにおいて、欠損データの再構成および将来の軌道予測の両面で最先端の性能を達成する。

ABSTRACT

Many real-world systems, such as moving planets, can be considered as multi-agent dynamic systems, where objects interact with each other and co-evolve along with the time. Such dynamics is usually difficult to capture, and understanding and predicting the dynamics based on observed trajectories of objects become a critical research problem in many domains. Most existing algorithms, however, assume the observations are regularly sampled and all the objects can be fully observed at each sampling time, which is impractical for many applications. In this paper, we propose to learn system dynamics from irregularly-sampled partial observations with underlying graph structure for the first time. To tackle the above challenge, we present LG-ODE, a latent ordinary differential equation generative model for modeling multi-agent dynamic system with known graph structure. It can simultaneously learn the embedding of high dimensional trajectories and infer continuous latent system dynamics. Our model employs a novel encoder parameterized by a graph neural network that can infer initial states in an unsupervised way from irregularly-sampled partial observations of structural objects and utilizes neuralODE to infer arbitrarily complex continuous-time latent dynamics. Experiments on motion capture, spring system, and charged particle datasets demonstrate the effectiveness of our approach.

研究の動機と目的

• 観測が不規則にサンプリングされ、各エージェントについて部分的にしか利用できない状況において、連続的システムダイナミクスを学習する課題に対処すること。
• 既知の下位グラフ構造を有する潜在ODEフレームワークを用いて、複雑な連続時間相互作用を複数エージェント間でモデル化すること。
• 隣接関係および時間的文脈を活用して、観測が疎であったりずれがあったりする状況下でも、すべてのエージェントの初期潜在状態を共同で推定すること。
• 不完全なデータを有する動的システムにおいて、欠損観測の補間および将来の軌道の外挿を正確に行えるようにすること。
• 各時刻で全エージェントが完全に観測可能であると仮定する従来のモデルの制限を克服すること。

提案手法

• マルチエージェント系の連続時系列潜在ダイナミクスをモデル化するためのニューラルODEを用いた変分オートエンコーダフレームワークであるLG-ODEを提案する。
• 各オブジェクトの観測に対する文脈的な表現を生成するために、近隣情報の集約にグラフニューラルネットワーク（GNN）エンコーダを採用する。
• 各エージェントの不規則にサンプリングされた観測系列における順序パターンをモデル化するために、時間的自己注意機構を統合する。
• エージェント間の依存関係と観測の疎らさを活用して、すべてのエージェントの初期潜在状態を共同で推定する。
• 潜在空間におけるエージェント間の連続的相互作用を、GNNベースのODE関数を用いたニューラルODEでモデル化する。
• 部分的かつ不規則な観測からの初期潜在状態の事後分布を近似するために、変分推論を活用する。

実験結果

リサーチクエスチョン

• RQ1 潜在ODEモデルは、不規則にサンプリングされ部分的に観測された軌道から、連続的システムダイナミクスを効果的に学習できるか？
• RQ2 個々のエージェントが少ないまたは疎な観測しか持たない状況において、エージェント間で初期潜在状態を共同で推定することで、性能がどのように向上するか？
• RQ3 GNNベースのエンコーダに時間的自己注意を組み合わせることで、不完全な動的システムにおける複雑な時間的および構造的依存関係をどの程度正確に捉えることができるか？
• RQ4 提案手法は、実データおよびシミュレートデータの両方において、補間および外挿の両タスクで従来手法を上回る性能を示すか？
• RQ5 観測の疎らさや非一様なサンプリング間隔の変動に対して、モデルの頑健性はどの程度高いか？

主な発見

• LG-ODE は、モーショングラブ、スプリング系、charged particle データセットにおいて、欠損観測の補間で最先端の性能を達成する。
• エージェント間の依存関係を共同初期状態推定によって活用することで、部分的かつ不規則にサンプリングされた軌道の再構成精度が顕著に向上する。
• 実験により、時間的自己注意機構が、疎で非一様な観測でさえも複雑な時間的パターンを効果的に捉えられることを示している。
• GNNベースのエンコーダは、周辺エージェントからの文脈情報の集約により、より良い表現学習を可能にし、特に観測が限られたエージェントにとって有益である。
• 将来の軌道予測（外挿）においても、観測の疎らさの変動にかかわらず、すべてのテストデータセットでベースラインを上回る一般化性能を示している。
• アブレーションスタディにより、初期状態の共同学習および時間的自己注意の使用が、特に観測が少ない状況下で性能に不可欠であることが確認された。