[論文レビュー] Incorporating Expert Prior Knowledge into Experimental Design via Posterior Sampling

Cheng Li, Sunil Gupta+4 more|arXiv (Cornell University)|Feb 26, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 25被引用数 5

ひとこと要約

本稿では、最適解の位置に関する専門家の事前知識を最適解の確率分布として取り入れるベイジアン最適化フレームワークを提案する。観測結果と組み合わせて事後分布を更新することで、高価なブラックボックス最適化における収束を加速する。後退的サンプリングを用いて実験設計を効率化し、合成関数、ハイパーパramータチューニング、および実世界のポリマー繊維実験において顕著な性能向上を示した。

ABSTRACT

Scientific experiments are usually expensive due to complex experimental preparation and processing. Experimental design is therefore involved with the task of finding the optimal experimental input that results in the desirable output by using as few experiments as possible. Experimenters can often acquire the knowledge about the location of the global optimum. However, they do not know how to exploit this knowledge to accelerate experimental design. In this paper, we adopt the technique of Bayesian optimization for experimental design since Bayesian optimization has established itself as an efficient tool for optimizing expensive black-box functions. Again, it is unknown how to incorporate the expert prior knowledge about the global optimum into Bayesian optimization process. To address it, we represent the expert knowledge about the global optimum via placing a prior distribution on it and we then derive its posterior distribution. An efficient Bayesian optimization approach has been proposed via posterior sampling on the posterior distribution of the global optimum. We theoretically analyze the convergence of the proposed algorithm and discuss the robustness of incorporating expert prior. We evaluate the efficiency of our algorithm by optimizing synthetic functions and tuning hyperparameters of classifiers along with a real-world experiment on the synthesis of short polymer fiber. The results clearly demonstrate the advantages of our proposed method.

研究の動機と目的

• 高価なブラックボックス最適化における実験設計の文脈で、最適解の位置に関する専門家の事前知識を統合する課題に対処すること。
• 最適解の位置に於ける専門家の信念を、最適解の位置に関する事前分布を用いて表現・更新可能な実用的手法を開発すること。
• 情報に基づいたサンプリングにより、高価な最適化タスクにおける収束速度を向上させることで、実験設計の効率を高めること。
• 合成関数、機械学習のハイパーパramータチューニング、および実世界のポリマー繊維合成実験において、本手法の妥当性を検証すること。

提案手法

• 最適解の位置 x* における専門家の知識を、最適解の位置 x* に関する事前分布 π(x*) として表現する。
• 未知関数 f(x) をガウス過程（GP）でモデル化し、f に対して標準的な非情報的事前分布を用いる。
• GP の事後分布と最適解の専門家事前分布 π(x*) を組み合わせることで、p(x* | D_n, π(x*)) の事後分布を導出する。
• 事後分布 p(x* | D_n, π(x*)) からのサンプリングにより、次の評価点を後退的サンプリングで決定する。
• 最適解の事後分布に対してトンプソンサンプリングを適用し、逐次実験における探索と活用のバランスをとる。
• 新たな観測結果 D_n を繰り返し更新することで、最適解の位置推定値を改善する。

実験結果

リサーチクエスチョン

• RQ1 最適解の位置に関する専門家の事前知識を、ベイジアン最適化フレームワーク内で形式的に表現する方法は何か？
• RQ2 このような事前知識の統合が、実験設計アルゴリズムの収束に与える理論的影響は何か？
• RQ3 標準的なベイジアン最適化と比較して、本手法の収束速度およびサンプル効率はどのように異なるか？
• RQ4 弱いまたは曖昧な専門家事前知識を扱えるか、性能の低下を引き起こさないか？
• RQ5 高価な関数評価を伴う実世界の実験設計シナリオにおいて、本手法はどのように性能を発揮するか？

主な発見

• 最適解に専門家事前分布を組み込んだ後退的サンプリング手法は、標準的なベイジアン最適化と比較して、合成関数最適化において収束を顕著に加速した。
• ランダムフォレストおよびXGBoostのハイパーパramータチューニングにおいて、本手法は評価回数を減らしながらも、真の最適解と一致する専門家事前分布がある場合には高い性能を達成した。
• 実世界のポリマー繊維合成実験では、本手法がより少ない試行回数で最適な構成を特定し、望ましい繊維（50–150 マイクロメートル）の割合を標準手法よりも速く最大値に達成した。
• 専門家事前分布が弱いかやや不正確であっても、アルゴリズムは安定した性能を示し、複数回の実行において一貫性を保った。
• 合成関数および実世界の設定において、本手法はランダムサーチおよび標準的なBOを上回り、実用的価値を示した。
• 本手法は、関数の性質に関する強い仮定を必要とせず、専門家の直感を効果的に活用でき、実験ドメインに適したものである。