[論文レビュー] Active Multi-Information Source Bayesian Quadrature

Alexandra Gessner, Javier González+1 more|arXiv (Cornell University)|Mar 27, 2019

Gaussian Processes and Bayesian Inference参考文献 27被引用数 5

ひとこと要約

本稿では、評価が高価な関数の積分を、より安価で関連する二次的情報源を能動的に活用することで、サンプル効率の高い方法であるActive Multi-Information Source Bayesian Quadrature (AMS-BQ) を提案する。評価コストを考慮した獲得関数の一般化により、AMS-BQ は標準的なベイesian四乗法に比べ、予算効率が向上し、目標精度に到達するための高価な主関数評価回数を削減する。概念実証実験ではその有効性が示された。

ABSTRACT

Bayesian quadrature (BQ) is a sample-efficient probabilistic numerical method to solve integrals of expensive-to-evaluate black-box functions, yet so far,active BQ learning schemes focus merely on the integrand itself as information source, and do not allow for information transfer from cheaper, related functions. Here, we set the scene for active learning in BQ when multiple related information sources of variable cost (in input and source) are accessible. This setting arises for example when evaluating the integrand requires a complex simulation to be run that can be approximated by simulating at lower levels of sophistication and at lesser expense. We construct meaningful cost-sensitive multi-source acquisition rates as an extension to common utility functions from vanilla BQ (VBQ),and discuss pitfalls that arise from blindly generalizing. Furthermore, we show that the VBQ acquisition policy is a corner-case of all considered cost-sensitive acquisition schemes, which collapse onto one single de-generate policy in the case of one source and constant cost. In proof-of-concept experiments we scrutinize the behavior of our generalized acquisition functions. On an epidemiological model, we demonstrate that active multi-source BQ (AMS-BQ) allocates budget more efficiently than VBQ for learning the integral to a good accuracy.

研究の動機と目的

• 主関数のみを用いる標準的なベイesian四乗法の限界を克服し、より安価で関連する複数の二次的関数源を統合することで、サンプル効率を向上させる能動的学習フレームワークの開発。
• 標準的なベイesian四乗法が主関数のみを用い、より安価で関連する関数を無視するという点での制限を解消すること。
• 複数の情報源にわたる積分推定の改善と評価コストの両者をバランスさせる、コスト感受性の高い獲得関数の形式化。
• 複数情報源設定に一般化された獲得関数を導入した際に生じる病理的行動を特定・分析すること。
• AMS-BQ が、実世界の計算コストの高いシミュレーションタスクにおいて、標準的なベイesian四乗法に比べて計算予算をより効率的に割り当てることを実験的に検証すること。

提案手法

• 主関数と二次的関数源を複数の関連関数として扱い、共有構造または相関構造を持つ多出力ガウス過程を用いてモデル化することで、標準的なベイesian四乗法を拡張する。
• 評価コストを考慮した獲得関数を導入し、単位コストあたりの期待情報量の増加を最適化することで、複数の情報源にわたる積分推定の改善と評価コストのトレードオフを実現する。
• 積分の予測分散と各情報源の評価コストを組み込んだ一般化された効用関数を用い、コストに配慮した能動的学習を可能にする。
• 主関数と二次的関数源の間に共通の事前分布を設定し、コアリオリゼーション行列を用いて情報源間の相関関係や共有構造をモデル化する。
• 獲得関数の最大値を取ることで能動的学習を実行し、コスト補正された効用に基づいて、次回の評価点を主関数または二次的関数源から選択する。
• 二次的関数源が主関数の低分解能シミュレーションや簡略化モデルなど、より安価な近似であると仮定した階層的モデルを採用する。

実験結果

リサーチクエスチョン

• RQ1 評価コストを考慮しながら、複数のより安価で関連する情報源を能動的に活用するように、ベイesian四乗法をどのように拡張できるか。
• RQ2 複数情報源のベイesian四乗法にコストを組み込むことで、獲得関数にどのような影響が生じるか。また、それらは獲得方策にどのように影響するか。
• RQ3 どの獲得関数設計が、複数情報源設定において効率的で病理的でない方策を生み出し、どの設計が退化または直感に反する行動を引き起こすか。
• RQ4 コストに配慮した獲得関数は、目標積分精度に到達するための高価な主関数評価回数を著しく削減できるか。
• RQ5 実世界の計算コストの高いシミュレーションタスクにおいて、能動的多情報源ベイesian四乗法は、標準的なベイesian四乗法に比べてどの程度優れているか。

主な発見

• AMS-BQ は、目標精度に到達するための高価な主関数評価回数を削減し、疫学的モデル実験では標準的なベイesian四乗法が6回評価を要するのに対し、AMS-BQ では主関数の評価がたった1回追加で済む。
• AMS-BQ の推定誤差は、正規化コスト ≈ 0.3 で1%未満に低下し、コスト効率の観点で標準的なベイesian四乗法およびモンテカルロ推定器を上回った。
• 効用関数にコストを適切に組み込まない場合、病理的でない獲得方策が生じることが判明し、複数情報源設定ではコスト感受性の高い設計が不可欠であることが示された。
• 標準的なベイesian四乗法では、すべての獲得関数が同じ退化した方策を生じるのに対し、AMS-BQ ではコストに配慮した獲得関数が、効用関数の定式化に応じて多様で意味のある方策を生み出す。
• 積分推定の初期の高い信頼性は、出力スケールの事前分布と、入力分布の端に位置する最初の主関数評価に起因する。
• 二次的関数源の評価は、主関数源との相関を高めるように戦略的に配置されており、繰り返し高価な主関数評価を減らす効果がある。