[論文レビュー] A Unified Stochastic Gradient Approach to Designing Bayesian-Optimal Experiments

Adam Foster, Martin Jankowiak+3 more|arXiv (Cornell University)|Nov 1, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 25被引用数 11

ひとこと要約

本論文は、1つの確率的勾配上昇手順により、実験設計と変分近似を同時に最適化する統合的確率的勾配アプローチを、ベイジアン最適実験設計（BOED）に導入する。特に、新たな変分下界、特に適応的対照推定（ACE）下界を活用することで、高次元設定においても効率的かつスケーラブルなBOEDを実現し、従来の二段階手法に比べて速度と情報量の両面で優れている。

ABSTRACT

We introduce a fully stochastic gradient based approach to Bayesian optimal experimental design (BOED). Our approach utilizes variational lower bounds on the expected information gain (EIG) of an experiment that can be simultaneously optimized with respect to both the variational and design parameters. This allows the design process to be carried out through a single unified stochastic gradient ascent procedure, in contrast to existing approaches that typically construct a pointwise EIG estimator, before passing this estimator to a separate optimizer. We provide a number of different variational objectives including the novel adaptive contrastive estimation (ACE) bound. Finally, we show that our gradient-based approaches are able to provide effective design optimization in substantially higher dimensional settings than existing approaches.

研究の動機と目的

• 従来の二段階BOED手法の非効率性、すなわち期待情報量（EIG）の推定とその後の設計最適化を別々に行う方法の改善。
• 従来の手法が計算上のボトル neck により失敗する高次元設定におけるスケーラブルな実験設計の実現。
• EIGの推定と設計最適化を1つの確率的勾配上昇手順に統合すること。
• 変分パラメータと設計パラメータの両方に対して同時に最適化可能な、EIGの変分下界の開発。
• バイオ分子ドッキングや行動経済学を含む、実世界の高次元実験設計問題における、提案フレームワークの有効性の実証。

提案手法

• 確率的勾配上昇（SGA）を用いて、設計パラメータと変分パラメータを同時に最適化する統合的最適化フレームワークを提案。
• 期待情報量（EIG）の変分下界を用い、特に任意にタイトにできる新しい適応的対照推定（ACE）下界を活用。
• EIGの下界となる1つの目的関数を採用し、設計パラメータと変分パラメータの両方に対して同時に最適化可能に設計。
• ACE下界を用いることで、EIG推定をタイトに保ちつつSGAに適した形に保ち、別々のEIG推定と設計最適化ステージを回避。
• 問題の文脈に応じて、タイトさ、計算コスト、トレーニング要件のバランスを取るために、異なる変分下界（ACE、PCE、BA）を用いる。
• モンテカルロ推定と再パラメータ化勾配を用いて、設計パラメータと変分パラメータの両方の微分可能最適化を実現。

実験結果

リサーチクエスチョン

• RQ1 統合的確率的勾配アプローチにより、高次元設定におけるスケーラビリティを向上させるために、実験設計と変分推論を同時に最適化できるか？
• RQ2 異なる変分下界（ACE、PCE、BA）は、EIG推定の正確さと最適化性能においてどのように比較されるか？
• RQ3 提案手法は、従来の二段階BOED手法に比べ、情報量の増加と収束速度の両面で優れているか？
• RQ4 ACE下界は、タイトなEIG推定を達成すると同時に、同時に最適化に適した形で機能するか？
• RQ5 統合的勾配フレームワークは、バイオ分子ドッキングのような実世界の高次元問題において、効果的な実験設計を可能にするか？

主な発見

• バイオ分子ドッキング実験において、ACE法はEIG下界1.0835 ± 0.0003および上界1.0852 ± 0.0001を達成し、熟練者が設計したベースラインの1.0191を顕著に上回った。
• すべての勾配ベース手法（ACE、PCE、BA）は、熟練者が設計した実験を上回るEIGを達成し、特に高次元設定においてACEが最も一貫した向上を示した。
• 繰り返し行動経済学実験において、統合的勾配アプローチは、事後分布のエントロピーと潜在変数のRMSEを、ベースラインよりも速くかつ効果的に低減した。
• ACE下界は、すべての5つの実験的シナリオにおいて、BAおよびPCEを常に同等以上または上回る性能を示し、標準的な選択肢として推奨された。
• 従来の手法が計算複雑性のため困難な高次元設計空間（例：100のドッキングスコア設計）においても、有効な最適化が可能になった。
• 確率的勾配上昇を用いたスケーラブルでエンドツーエンドの実験設計が達成され、別々のEIG推定と外部最適化ループの必要性が排除された。