[論文レビュー] Black-box Variational Inference for Stochastic Differential Equations

Thomas Ryder, Andrew Golightly+2 more|arXiv (Cornell University)|Feb 9, 2018

Gaussian Processes and Bayesian Inference参考文献 39被引用数 26

ひとこと要約

本稿では、パラメータと潜在的拡散経路を同時に推定するブラックボックス変分推論手法を提案する。この手法は、パラメータを条件とした拡散経路の事後分布を近似するために再帰的ニューラルネットワーク（RNN）を用いる。標準的なハードウェア上でも数時間で正確なパrameter推定が達成され、MCMCに比べて高速でありながら真の事後経路と近い結果を示す。

ABSTRACT

Parameter inference for stochastic differential equations is challenging due to the presence of a latent diffusion process. Working with an Euler-Maruyama discretisation for the diffusion, we use variational inference to jointly learn the parameters and the diffusion paths. We use a standard mean-field variational approximation of the parameter posterior, and introduce a recurrent neural network to approximate the posterior for the diffusion paths conditional on the parameters. This neural network learns how to provide Gaussian state transitions which bridge between observations in a very similar way to the conditioned diffusion process. The resulting black-box inference method can be applied to any SDE system with light tuning requirements. We illustrate the method on a Lotka-Volterra system and an epidemic model, producing accurate parameter estimates in a few hours.

研究の動機と目的

• SDEにおけるパラメータと潜在的拡散経路の同時推定という課題に取り組む。これは、潜在過程のため高次元的かつ解析的に解けないためである。
• 問題固有の設計を必要とせず、広範なSDEシステムに適用可能な柔軟でスケーラブルな推論手法を開発すること。
• 従来のMCMCおよびブリッジベースのモンテカルロ手法と比較して、計算コストとチューニングの複雑さを低減すること。
• 平均場近似やガウス近似に代わり、観測値間の複雑で構造的な依存関係をRNNでモデル化することで、潜在経路の推定を向上させること。
• システム生物学や疫学を含む実世界の応用において、実用的で高速なSDE推論を可能にすること。

提案手法

• 連続的なSDEを時間グリッド上のガウス遷移の系列として近似するために、Euler-Maruyama離散化を用いる。
• パラメータの事後分布を近似するために、独立な事前分布を仮定した平均場変分推論を適用する。
• パラメータを条件とした潜在的拡散経路の事後分布をモデル化するために再帰的ニューラルネットワーク（RNN）を導入し、真の条件付き過程を模倣する状態遷移を学習する。
• 変分近似を訓練するために確率的最適化を用い、変分計算に依存せずにエンドツーエンド学習を可能にする。
• RNNに基づく近似を標準正規分布のサンプルを変換する正規化フローとして扱い、観測データおよびパラメータと整合する経路サンプルを生成する。
• 特にモデル比較のため、50万回の反復を用いた重要度サンプリングを実施し、変分事後分布の品質を評価・検証する。

実験結果

リサーチクエスチョン

• RQ1 最小限のチューニングで、パラメータと潜在的経路を同時に推定可能なブラックボックス変分推論フレームワークを設計できるか？
• RQ2 RNNに基づく変分近似は、スパarsely観測されたSDEにおける潜在的拡散経路の複雑な依存構造をどれほど正確に捉えられるか？
• RQ3 MCMCおよびブリッジベースのモンテカルロ手法と比較して、計算効率と近似精度のトレードオフはどのようになるか？
• RQ4 合成データでは既知のパラメータ値を回復できるか？また、実際の疫学的データでは、既存の研究結果と高い忠実性で一致するか？
• RQ5 マージナル事後分布推定および経路サンプリングの観点から、変分近似の品質はMCMCと比べてどの程度か？

主な発見

• デスクトップPC上でも、ロトカ・ヴォリエーラおよびSIR疫学的モデルの両方において、3.5時間未満で正確なパラメータ推定が達成され、MCMCが数日を要するのと比べて顕著に高速である。
• 時間不変SIRモデルでは、有効サンプルサイズ（ESS = 718.2）が低くても、変分推論によるマージナル事後分布推定値が重要度サンプリングおよび先行MCMC研究とよく一致している。
• 時間変動SIRモデルでは、推定された分散（σ²）が小さく、データの変動、特にt=7〜9の周辺でより柔軟な拡散経路を生成し、より良いデータ適合を示している。
• RNNに基づく事後分布近似は、50の妥当な拡散経路を生成し、視覚的に真のデータトレンドと一致しており、潜在過程における複雑な時間的依存関係を捉えていることが示された。
• パラメータの事後分布がわずかに過剰に集中しているものの、変分近似による条件付き拡散経路の近似は真の事後分布に近く、これは変分法の一般的な限界である。
• 重要度サンプリングによる証拠を用いたモデル比較により、時間変動モデルがデータによりよく適合することが示されたが、複雑さの増加により過学習の可能性があるため、モデル選択におけるより良い事後分布推定の必要性が浮き彫りになった。