[論文レビュー] Gradient-based Bayesian Experimental Design for Implicit Models using Mutual Information Lower Bounds

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|May 10, 2021

Gaussian Processes and Bayesian Inference被引用数 6

ひとこと要約

本稿では、微分可能な相互情報量下界を用いて、勾配に基づくベイジアン実験設計フレームワークを暗黙的モデルに適用する手法を提案する。この手法により、ニューラルネットワークを介した効率的な最適化が可能となり、疫学における確率微分方程式を含む非定型モデルにおいて、パラメータ推定、モデル識別、予測改善の分野で最先端の性能を達成する。

ABSTRACT

We introduce a framework for Bayesian experimental design (BED) with implicit models, where the data-generating distribution is intractable but sampling from it is still possible. In order to find optimal experimental designs for such models, our approach maximises mutual information lower bounds that are parametrised by neural networks. By training a neural network on sampled data, we simultaneously update network parameters and designs using stochastic gradient-ascent. The framework enables experimental design with a variety of prominent lower bounds and can be applied to a wide range of scientific tasks, such as parameter estimation, model discrimination and improving future predictions. Using a set of intractable toy models, we provide a comprehensive empirical comparison of prominent lower bounds applied to the aforementioned tasks. We further validate our framework on a challenging system of stochastic differential equations from epidemiology.

研究の動機と目的

• 尤度が非定型的だがシミュレーション可能なデータが得られる暗黙的モデルにおけるベイジアン実験設計（BED）の課題に対処すること。
• 複数の相互情報量下界をサポートする汎用的なフレームワークを構築し、実験設計の最適化を可能とすること。
• 変分近似に依存せずに、勾配上昇法を用いてニューラルネットワークのパラメータと実験設計を同時に最適化すること。
• パラメータ推定を越えて、モデル識別および将来予測タスクを含むBEDの拡張を実現すること。
• トピックモデルおよび実世界の疫学的SDEモデルを用いてフレームワークを検証し、堅牢性およびスケーラビリティを示すこと。

提案手法

• フレームワークは、JSD、NWJなど、微分可能な相互情報量（MI）下界を実験設計の目的関数として使用する。
• サンプルされたデータを用いて、ニューラルネットワークがMI下界を推定するように訓練され、パラメータは確率的勾配上昇法で更新される。
• MI下界の目的関数を逆伝播することで、ニューラルネットワークと実験設計が同時に最適化される。
• 変分推論を避けるために、MI推定と設計最適化を両方ともニューラルネットワークで直接パrameter化する。
• 複数の下界（例：JSD、NWJ）を評価・比較し、JSDは訓練に、NWJは分散低減のための検証に使用する。
• 本手法は、パラメータ推定、モデル識別、予測改善タスクに適用され、合成的および実世界のSDEモデルで検証される。

実験結果

リサーチクエスチョン

• RQ1 相互情報量下界は、暗黙的モデルにおけるベイジアン実験設計の目的関数として効果的に使用可能か？
• RQ2 JSD や NWJ などの異なるMI下界は、BEDタスク全体における最適化の安定性と性能においてどのように比較されるか？
• RQ3 勾配上昇法によるニューラルネットワークと実験設計の共同最適化は、パラメータ推定およびモデル識別において、既存手法を上回る性能を発揮できるか？
• RQ4 本フレームワークは、予測改善やモデル比較を含む多様な科学的タスクに一般化可能か？
• RQ5 本手法は、疫学における確率微分方程式のような複雑で非定型なモデルにおいて、スケーリングおよび性能をどのように果たすか？

主な発見

• MI下界の勾配上昇法を用いた実験設計の最適化が成功し、複数のタスクで安定した収束を達成した。
• Jensen-Shannon divergence（JSD）下界は滑らかな訓練曲線と効果的な最適化を示したが、NWJ下界は高い分散を示したが、検証用途では依然として有用であった。
• SIRおよびSEIR疫学的モデルでは、最適な設計が常に初期測定時刻に集中しており、そこではモデル応答が最も区別可能であった。
• 実験予算が増加するにつれてモデル識別性能が向上したが、SEIRモデルは応答ダイナミクスの重複により、SIRモデルよりも一貫して回復が困難であった。
• 本手法は、トピックモデルおよび実世界のSDEモデルにおいて強力な実証的性能を示し、複雑な科学的問題への適用可能性を裏付けた。
• ニューラルネットワークと実験設計の共同最適化により、変分近似に依存しない効率的かつスケーラブルなBEDが実現された。