[論文レビュー] Exploiting gradients and Hessians in Bayesian optimization and Bayesian quadrature

Anqi Wu, Mikio Aoi+1 more|arXiv (Cornell University)|Mar 31, 2017

Gaussian Processes and Bayesian Inference参考文献 10被引用数 22

ひとこと要約

本論文は、関数値、勾配、ヘッセ行列をガウス過程（GP）モデル内で統合することで収束を加速し、不確実性を低減する、ベイジアン最適化（BO）およびベイジアン四則（BQ）のための新規フレームワークを提案する。高次導関数に起因する悪条件問題を解消するため、入力のスケーリングとスペクトル表現を導入することで、ハイパーパrameterの学習を高速化し、標準的なGPベースのBOおよびBQよりも優れた性能を発揮する。合成的および実世界の問題、特に対数尤度最適化において、実証的な利点が得られた。

ABSTRACT

An exciting branch of machine learning research focuses on methods for learning, optimizing, and integrating unknown functions that are difficult or costly to evaluate. A popular Bayesian approach to this problem uses a Gaussian process (GP) to construct a posterior distribution over the function of interest given a set of observed measurements, and selects new points to evaluate using the statistics of this posterior. Here we extend these methods to exploit derivative information from the unknown function. We describe methods for Bayesian optimization (BO) and Bayesian quadrature (BQ) in settings where first and second derivatives may be evaluated along with the function itself. We perform sampling-based inference in order to incorporate uncertainty over hyperparameters, and show that both hyperparameter and function uncertainty decrease much more rapidly when using derivative information. Moreover, we introduce techniques for overcoming ill-conditioning issues that have plagued earlier methods for gradient-enhanced Gaussian processes and kriging. We illustrate the efficacy of these methods using applications to real and simulated Bayesian optimization and quadrature problems, and show that exploting derivatives can provide substantial gains over standard methods.

研究の動機と目的

• 一次および二次の導関数をGPベースのベイジアン最適化および四則に統合するためのスケーラブルで数値的に安定した手法の開発。
• 特にヘッセ行列情報が含まれる場合に顕著な悪条件問題を有する導関数強化GPの長年の課題に取り組む。
• 導関数情報の活用により、BOおよびBQにおける不確実性の定量化と収束速度の向上。
• 高価な評価関数におけるベイジアン推論において、高次導関数の実用的利用を可能にする。
• 合成的および実世界の問題、特に対数尤度最適化を含め、本手法の有効性を実証する。

提案手法

• 任意の精度で正確な事後分布を近似可能にするGPカーネルのスペクトル表現を導入し、導関数観測値が存在する場合でも有効である。
• 勾配およびヘッセ行列を含める際の共分散行列の数値的条件数を改善するため、入力のスケーリングを適用する。
• ハイパーパrameterの周辺化にサンプリングベースの推論を用い、導関数データに対する不確実性の伝搬を可能にし、頑健な事後更新を実現する。
• BQでは、積分の事後分散を最小化する戦略と、被積分関数に重みをかけた関数の不確実性を最大化する戦略の2つのアクティブサンプリング戦略を採用する。
• スペクトル領域における事後平均および分散の閉形式表現を導出し、アクティブラーニングにおける不確実性の効率的計算を可能にする。
• 導関数強化GPのデュアル空間導出を実装し、単調性などの制限的な仮定に依存する従来の研究を一般化する。

実験結果

リサーチクエスチョン

• RQ1 GPベースのベイジアン最適化に勾配とヘッセ行列を統合することで、標準的手法と比較して収束速度と不確実性低減が顕著に向上するか？
• RQ2 特にヘッセ行列観測値を含む場合に生じる導関数強化GPにおける悪条件問題は、実用的利用を可能にするために効果的に緩和できるか？
• RQ3 導関数情報の活用により、GPモデルにおける対数尤度推定がより高速かつ正確に行えるか？
• RQ4 スペクトル表現と入力スケーリングが併用されることで、導関数を含む正確なGP推論の代替として安定的かつ高精度な手法が得られるか？
• RQ5 導関数情報が利用可能な場合、ベイジアン四則における異なるアクティブサンプリング戦略の性能はいかがであるか？

主な発見

• 勾配とヘッセ行列の統合により、標準的なGPベースの手法と比較して、関数の不確実性およびハイパーパrameterの不確実性が顕著に迅速に収束することが確認された。
• 提案されたGPカーネルのスペクトル表現は、高次導関数データが存在する場合でも、正確な事後分布を任意の精度で近似可能である。
• 入力スケーリングにより、長年にわたり実用的利用が困難であったヘッセ行列情報の悪条件問題が効果的に緩和された。
• ベイジアン四則において、導関数を強化した手法（GPBQhess）は、標準的なGPBQと比較して、真の積分値により速く収束し、平均誤差が低かった。
• 被積分関数に重みをかけた関数の不確実性（式28）を用いたアクティブサンプリングは、強力な収束性能を維持しながら、顕著な計算コストの削減を実現した。
• 単峰性および多峰性の最適化タスク、および実世界の対数尤度最適化において、本手法は収束速度と精度の両面でベースライン手法を上回る優れた性能を示した。