[論文レビュー] Efficient and Scalable Batch Bayesian Optimization Using K-Means

Matthew Groves, Edward O. Pyzer‐Knapp|arXiv (Cornell University)|Jun 4, 2018

Machine Learning and Algorithms参考文献 2被引用数 16

ひとこと要約

本稿では、バッチベイズ最適化における獲得関数のピークを効率的に特定するため、K-meansクラスタリングを用いた新しいバッチサンプリング手法であるK-Means Batch Bayesian Optimization (KMBBO) を提案する。スライスサンプリングで得られた点をクラスタリングし、その重心をバッチ候補点として選択することで、KMBBOは優れた探索と活用のバランスを達成し、合成的および実世界のタスク（ハイパーパramータチューニングやドラッグディスcovery含む）において、LP、Constant Liar、Thompson Sampling、B3Oといった最先端手法を上回る性能を示し、100回の反復において一貫して低い分散を示す。

ABSTRACT

We present K-Means Batch Bayesian Optimization (KMBBO), a novel batch sampling algorithm for Bayesian Optimization (BO). KMBBO uses unsupervised learning to efficiently estimate peaks of the model acquisition function. We show in empirical experiments that our method outperforms the current state-of-the-art batch allocation algorithms on a variety of test problems including tuning of algorithm hyper-parameters and a challenging drug discovery problem. In order to accommodate the real-world problem of high dimensional data, we propose a modification to KMBBO by combining it with compressed sensing to project the optimization into a lower dimensional subspace. We demonstrate empirically that this 2-step method outperforms algorithms where no dimensionality reduction has taken place.

研究の動機と目的

• バッチサンプリングが必須となる高リソースかつ並列評価が可能な環境において、逐次的ベイズ最適化の限界を解消すること。
• 複数のピークを持つ獲得関数において、情報量が多く、均等に分散された点を信頼性高く特定できるスケーラブルで効率的なバッチサンプリング手法を開発すること。
• 標準的なバッチBO手法が計算コストの増大や探索の不十分さにより苦しむ高次元最適化問題における性能と頑健性を向上させること。
• ドラッグディスcoveryや材料科学など、固定バッチサイズが要求される実世界の応用において、効果的なバッチ最適化を可能にすること。
• 次元削減の拡張手法として、圧縮センシングを統合したCS-KMBBOを提案し、高次元問題においても性能を維持すること。

提案手法

• KMBBOは、獲得関数の表面から候補点を生成するために一般化スライスサンプリングを用いる。
• スライスサンプルに対してK-meansクラスタリングを適用し、獲得関数の局所的最大値を中心とするクラスタに分類する。
• クラスタの重心を最終的なバッチ点として選択することで、複数のピークを網羅する多様性とカバレッジを確保する。
• 同一領域への点の集積を防ぐために、クラスタ内距離に二次ペナルティ項を適用し、空間的な分散を促進する。
• 高次元問題に対しては、CS-KMBBOが事前にデータを低次元部分空間に射影するTWiST技術を統合し、その後KMBBOを適用する。
• 獲得関数のグローバル最適化に費やす高コストを回避するため、サンプル点のクラスタリングに依存することで、計算コストを削減する。

実験結果

リサーチクエスチョン

• RQ1 スライスサンプリングされた獲得関数値のK-meansクラスタリングは、バッチベイズ最適化において複数の情報量の多いピークを信頼性高く特定できるか？
• RQ2 KMBBOは、Constant Liar、LP、Thompson Sampling、B3Oといった既存のバッチBO手法と比較して、多様な最適化タスクにおいて性能と頑健性に優れているか？
• RQ3 KMBBOに圧縮センシングを統合したCS-KMBBOは、次元削減された部分空間で動作しても高次元問題において高い性能を維持できるか？
• RQ4 KMBBOのサンプリング行動は、特にマルチモーダルな獲得関数のランドスケープにおいて、他のバッチ手法と比較して探索と活用のバランスがどのように異なるか？
• RQ5 KMBBOの性能安定性—100回の反復における標準偏差が低いこと—は、高コストな実世界の最適化タスクにおいて信頼できる選択肢であると見なせる程度まで高いか？

主な発見

• KMBBOは、ハイパーパramータチューニングや高次元のドラッグディスcovery問題を含む、合成的および実世界のタスクにおいて、LP、Constant Liar、Thompson Sampling、B3Oといった最先端のバッチベイズ最適化手法をすべて上回る性能を示した。
• KMBBOは100回の反復において最も一貫した性能を示し、最小の標準偏差を記録しており、高コストな最適化環境における高い信頼性を示している。
• 1次元の玩具問題では、KMBBOは獲得関数の3つの主要ピークをすべて正しく特定しサンプリングできたが、他の手法は二次ピークを探索できなかったり、低品質領域を過剰に探索するなど、問題を示した。
• 次元削減に圧縮センシングを用いるCS-KMBBOは、低次元部分空間で動作しているにもかかわらず、ベースライン手法を上回る性能を達成しており、高次元問題に対して効果的であることが証明された。
• 獲得関数の直接最適化に依存するのではなく、スライスサンプルのクラスタリングに依存することで、KMBBOは著しく低い計算コストを実現しながらも、高品質なバッチ選択を維持している。
• KMBBOはスライスサンプル数の変化に対して頑健であるのに対し、IGMMに基づくピーク検出に依存するB3Oは、このような変化に対して高い感受性を示すことが分かった。