[論文レビュー] Bayesian Optimization with Output-Weighted Importance Sampling.

Antoine Blanchard, Themistoklis P. Sapsis|arXiv (Cornell University)|Apr 22, 2020

Gaussian Processes and Bayesian Inference参考文献 16被引用数 4

ひとこと要約

本稿では、尤度比を出力重み付き重要度サンプリングとして用いるベイジアン最適化フレームワークを提案する。このフレームワークは、異常に大きなまたは小さな目的関数値をもたらす入力を探索へ導く。尤度比による獲得関数の重み付けにより、特に高次元設定において、重みなし手法に比べて最適化の効率と性能が向上する。

ABSTRACT

In Bayesian optimization, accounting for the importance of the output relative to the input is a crucial yet challenging exercise, as it can considerably improve the final result but often involves inaccurate and cumbersome entropy estimations. We approach the problem from the perspective of importance-sampling theory, and advocate the use of the likelihood ratio to guide the search algorithm towards regions of the input space where the objective function assumes abnormally large or small values. The likelihood ratio acts as a sampling weight and can be computed at each iteration without severely deteriorating the overall efficiency of the algorithm. In particular, it can be approximated in a way that makes the approach tractable in high dimensions. The likelihood-weighted acquisition functions introduced in this work are found to outperform their unweighted counterparts in a number of applications.

研究の動機と目的

• 目的関数のエントロピー推定倣いの不正確さに依存せずに、出力の重要性をベイジアン最適化に組み込む課題に対処すること。
• 目的関数値の尤度比に基づく、探索の重み付けのための実行可能な手法を開発すること。
• 出力が通常から著しく逸脱する領域に注目することで、最適化の性能を向上させること。
• 尤度重みの近似を通じて、高次元入力空間への効率的な応用を可能にすること。

提案手法

• 極端な目的関数値を生成する入力を強調するために、尤度比をサンプリング重みとして使用する。
• 尤度比による重み付けを施した獲得関数を導出することで、最適化プロセスをガイドする。
• 各イテレーションで尤度比を近似し、計算効率を維持する。
• 重要度サンプリング理論を適用し、出力の有意性に基づいて探索分布を再重み付けする。
• ガウス過程の事前分布を用いた標準的なベイジアン最適化ループに重み付き獲得関数を統合する。
• 尤度比の実行可能な近似により、高次元へのスケーラビリティを実現する。

実験結果

リサーチクエスチョン

• RQ1 尤度比を出力の重要性に基づくベイジアン最適化の獲得関数の重み付けに効果的に用いることができるか？
• RQ2 収束性と性能の観点から、出力重み付きサンプリングは標準的な獲得関数と比べてどのように異なるか？
• RQ3 尤度重み付きアプローチは、極端な目的関数値の探索を向上させつつ、効率を維持できるか？
• RQ4 高次元最適化問題における尤度重み付きサンプリングの影響は何か？
• RQ5 最適化性能を劣化させずに、尤度比をどの程度正確に近似できるか？

主な発見

• 尤度重み付き獲得関数は、複数のベンチマーク応用において、重みなしの対応手法を上回る性能を示した。
• この手法は、著しく大きなまたは小さな目的関数値をもたらす入力へ探索を効果的に導くことができる。
• 尤度比は各イテレーションで効率的に計算・近似可能であり、顕著な計算オーバーヘッドを伴わない。
• このアプローチは高次元入力空間においても実行可能で効果的である。
• 出力重み付き重要度サンプリングの使用により、入力空間の機能的に有意義な領域に注目することで、最適化の効率が向上した。
• 実験的結果は、さまざまな設定下で標準的なベイジアン最適化に比べて一貫した性能向上を示した。