[論文レビュー] On a New Improvement-Based Acquisition Function for Bayesian Optimization

Umberto Noè, Dirk Husmeier|arXiv (Cornell University)|Aug 21, 2018

Mathematical Approximation and Integration参考文献 2被引用数 15

ひとこと要約

本稿では、改善推定値の不確実性を考慮することで、クエリ選択の信頼性を向上させる、ベイズ最適化のための新たな改善ベースの獲得関数であるScaledEIを提案する。ベンチマーク関数および肺血流循環のPDEモデルにおいて評価された結果、関数評価回数を減らしながら最先端の手法を上回るか同等の性能を示し、多様なカーネルおよび問題タイプにおいて優れた性能と頑健性を示した。

ABSTRACT

Bayesian optimization (BO) is a popular algorithm for solving challenging optimization tasks. It is designed for problems where the objective function is expensive to evaluate, perhaps not available in exact form, without gradient information and possibly returning noisy values. Different versions of the algorithm vary in the choice of the acquisition function, which recommends the point to query the objective at next. Initially, researchers focused on improvement-based acquisitions, while recently the attention has shifted to more computationally expensive information-theoretical measures. In this paper we present two major contributions to the literature. First, we propose a new improvement-based acquisition function that recommends query points where the improvement is expected to be high with high confidence. The proposed algorithm is evaluated on a large set of benchmark functions from the global optimization literature, where it turns out to perform at least as well as current state-of-the-art acquisition functions, and often better. This suggests that it is a powerful default choice for BO. The novel policy is then compared to widely used global optimization solvers in order to confirm that BO methods reduce the computational costs of the optimization by keeping the number of function evaluations small. The second main contribution represents an application to precision medicine, where the interest lies in the estimation of parameters of a partial differential equations model of the human pulmonary blood circulation system. Once inferred, these parameters can help clinicians in diagnosing a patient with pulmonary hypertension without going through the standard invasive procedure of right heart catheterization, which can lead to side effects and complications (e.g. severe pain, internal bleeding, thrombosis).

研究の動機と目的

• 既存の改善ベースの獲得関数が改善推定値の不確実性を考慮しないという限界を是正すること。
• 高い期待改善とその改善の信頼性の両方を満たすクエリ点を選択できる、より頑健な獲得関数の開発。
• グローバル最適化のベンチマーク関数を広く用いて、提案手法の性能を最先端の獲得関数と比較して評価すること。
• 関数評価回数を標準的なグローバル最適化ソルバーと比較することで、ScaledEIを用いたベイズ最適化の計算効率を実証すること。
• 実世界の精密医療問題への応用として、ヒトの肺血流循環を記述するPDEモデルにおけるパラメータ同定にScaledEIを適用し、非画像的診断の実現を支援すること。

提案手法

• 改善の期待値を、改善確率変数の標準偏差の逆数でスケーリングすることで、期待改善を修正する新しい獲得関数ScaledEIを提案。
• ガウス過程のスレーブモデル下での改善量の分散を導出することで、改善推定値の不確実性を定量化。
• 改善の分散に対する解析的表現を用いて、不確実性が高くなるのを抑える信頼性に配慮した獲得関数を定義。
• 入力次元の感度の違いに適応できるよう、自動関連性決定（ARD）カーネル（特にMatérn 5/2および平方指数カーネル）を用いてScaledEIを実装。
• 繰り返しガウス過程モデルを観測された関数評価値で更新し、次の点をScaledEI基準に従って選択するベイズ最適化ループを適用。
• 12のベンチマーク関数において、複数の評価予算（n=200, 600, 1000）でペアドt検定を実施し、ScaledEIをRND、MN、LCB、PI、EI、MESと比較。

実験結果

リサーチクエスチョン

• RQ1 改善推定値の不確実性を考慮する新たな改善ベースの獲得関数が、既存手法よりも優れた最適化性能を発揮できるか。
• RQ2 標準的なグローバル最適化ベンチマークにおいて、ScaledEIはEI、LCB、MESなどの最先端の獲得関数と比較して、収束速度および最終的な解の質において優れているか。
• RQ3 従来のグローバル最適化ソルバーと比較して、ScaledEIを用いたベイズ最適化が、高価な関数評価回数を著しく削減できるか。
• RQ4 Matérn 5/2カーネルと平方指数カーネルの選択にかかわらず、ScaledEIの性能の一貫性はどの程度保たれているか。
• RQ5 複雑で高次元のヒト肺血流循環系のPDEモデルにおいて、ScaledEIは臨床応用のための正確で効率的なパラメータ同定を可能にするか。

主な発見

• すべてのベンチマーク関数において、RND方策を著しく上回り、100%の比較で同等以上または優れた性能を示した。
• Matérn 5/2カーネルでは、25%のテスト関数でEIを著しく上回ったが、逆に平方指数カーネルではその逆が成り立った。
• 平方指数カーネルを用いた場合、MESよりも平均的なlog10距離が著しく小さく、33%のケースで有意に優れていた。残り67%のケースでは差がなかった。
• 81%の比較で、Matérn 5/2カーネルと平方指数カーネルの両方において、ScaledEIの性能順位が一貫しており、カーネル選択に対して頑健であることが示された。
• n=600評価時、92%のテスト関数で他のすべての手法を著しく上回り、残り8%のケースでは差がなかった。
• 肺血流循環PDEモデルへの応用では、関数評価回数を最小限に抑えながら正確なパラメータ同定が可能であることが示され、非画像的臨床診断への応用が可能であることを裏付けた。