[論文レビュー] Differentiable Likelihoods for Fast Inversion of 'Likelihood-Free' Dynamical Systems

Hans Kersting, Nicholas Krämer+4 more|arXiv (Cornell University)|Feb 21, 2020

Gaussian Processes and Bayesian Inference参考文献 43被引用数 7

ひとこと要約

本稿では、ガウス過程によるODEスムージングを活用して、ODE逆問題における微分可能尤度近似を提案する。この手法により、局所的なガウス近似による尤度の構築が可能となり、勾配およびヘッセ行列の効率的推定が可能になる。本手法により、尤度フリー推論における最適化とサンプリングが高速化され、3つのベンチマークODEにおいて、収束速度の向上と事後分布探索の改善を達成し、従来手法を上回る性能を示した。

ABSTRACT

Likelihood-free (a.k.a. simulation-based) inference problems are inverse problems with expensive, or intractable, forward models. ODE inverse problems are commonly treated as likelihood-free, as their forward map has to be numerically approximated by an ODE solver. This, however, is not a fundamental constraint but just a lack of functionality in classic ODE solvers, which do not return a likelihood but a point estimate. To address this shortcoming, we employ Gaussian ODE filtering (a probabilistic numerical method for ODEs) to construct a local Gaussian approximation to the likelihood. This approximation yields tractable estimators for the gradient and Hessian of the (log-)likelihood. Insertion of these estimators into existing gradient-based optimization and sampling methods engenders new solvers for ODE inverse problems. We demonstrate that these methods outperform standard likelihood-free approaches on three benchmark-systems.

研究の動機と目的

• ODEソルバが解析的構造を持つにもかかわらず、ブラックボックスとして扱う標準的な尤度フリー推論の非効率性を解消すること。
• 従来のODEソルバが点推定しか返さないという制限を克服し、確率的数値フレームワークを導入することで尤度を提供すること。
• 新規のヤコビ行列推定子 J を用いて、対数尤度の勾配およびヘッセ行列の解析的推定器を構築すること。
• 微分可能尤度近似を提供することで、ODE逆問題における一次および二次の最適化・サンプリング手法を可能にすること。
• 提案された尤度近似を用いた勾配ベース推論が、収束速度およびサンプリング効率の面で、標準的な尤度フリー手法を上回ることを示すこと。

提案手法

• 確率的数値法としてのガウスODEフィルタリングを採用し、ODE解をガウス過程としてモデル化することで、局所的な尤度近似を生成する。
• フィルタリングされたODE解の平均 mθ に対する写像 θ ↦ mθ に対する新規ヤコビ行列推定子 J を構築し、勾配およびヘッセ行列の閉形式計算を可能にする。
• 真のヤコビ行列を J と感度項 S に分解することで、J の近似誤差に対する理論的裏付けを提供し、上界を導出する。
• 尤度近似を用いて、L-BFGS やハミルトニアンモンテカルロなどの勾配ベース最適化・サンプリングアルゴリズムを実装する。
• 既存の推論フレームワークに尤度近似を統合し、ブラックボックスシミュレーションの代わりに微分可能で取り扱いやすい尤度を導入する。
• ロジスティック成長、ロトカ・ヴォルテラ、およびタンパク質シグナル伝達経路の3つのベンチマークODEに対して評価を行い、ランダムウォークメトロポリスとランダムサーチとを比較する。

実験結果

リサーチクエスチョン

• RQ1 確率的ODEソルバを用いて、ODE逆問題における尤度の局所的ガウス近似を構築可能か。これにより微分可能推論が可能になるか。
• RQ2 提案されたヤコビ行列推定子 J は、ODE逆問題において、完全な感度解析や数値積分に代わる精度高く効率的な代替手段を提供できるか。
• RQ3 勾配およびヘッセ行列に基づく最適化・サンプリング手法は、標準的な尤度フリー手法を上回る性能を示せるか。
• RQ4 ヤコビ行列推定子 J の近似誤差は、ODE解の真の感度に対してどのようにスケーリングされるか。
• RQ5 本手法は、非線形的または非パラメトリックなベクトル場を有するODEに対しても適用可能か。特に、仮定1を厳密に満たさない場合でも有効か。

主な発見

• 提案手法は、収束速度およびサンプリング効率の面で、3つのベンチマークODEすべてにおいて、標準的な尤度フリー推論手法（ランダムウォークメトロポリスMCMCおよびランダムサーチ最適化）を上回った。
• ガウスODEフィルタリングフレームワークから導出された勾配およびヘッセ行列推定子の活用により、最適化における収束速度の向上とMCMCサンプリングにおける混合性能の改善が達成された。
• ヤコビ行列推定子 J は、パラメータごとに繰り返しODE解法を実行する必要がなくなるため、完全な数値積分に比べて顕著な高速化を達成した。
• 理論的分析により、J の近似誤差が有界であり、感度項 S に分解可能であることが示され、その使用に理論的根拠が与えられた。
• ロジスティックODEおよびタンパク質シグナル伝達経路における実験的結果から、再パラメトリゼーションにより仮定1を緩和しても、本手法が精度を維持することが示された。
• 本手法により、従来は尤度が扱いにくいため実行不可能とされていた高度な最適化・サンプリング手法が、ODE逆問題で利用可能になった。