[論文レビュー] Transfer Learning with Gaussian Processes for Bayesian Optimization

Petru Tighineanu, Kathrin Skubch+4 more|arXiv (Cornell University)|Nov 22, 2021

Gaussian Processes and Bayesian Inference参考文献 14被引用数 5

ひとこと要約

本論文は、ベイズ最適化におけるガウス過程を用いた転移学習の統一的フレームワークを提案し、計算効率と不確実性の伝播の両立を図る新しい閉形式のブーストドGPモデル（SHGP）を導入する。不確かなソースタスクのモデリングが、特に高ノイズまたは限られたデータ下で性能を向上させることを示しており、限られたデータ下の困難な状況において、完全な結合モデルや非ベイズ的アンサンブルを上回る性能を発揮する。

ABSTRACT

Bayesian optimization is a powerful paradigm to optimize black-box functions based on scarce and noisy data. Its data efficiency can be further improved by transfer learning from related tasks. While recent transfer models meta-learn a prior based on large amount of data, in the low-data regime methods that exploit the closed-form posterior of Gaussian processes (GPs) have an advantage. In this setting, several analytically tractable transfer-model posteriors have been proposed, but the relative advantages of these methods are not well understood. In this paper, we provide a unified view on hierarchical GP models for transfer learning, which allows us to analyze the relationship between methods. As part of the analysis, we develop a novel closed-form boosted GP transfer model that fits between existing approaches in terms of complexity. We evaluate the performance of the different approaches in large-scale experiments and highlight strengths and weaknesses of the different transfer-learning methods.

研究の動機と目的

• ベイズ最適化における既存のGPベースの転移学習手法の理解と統一のギャップを埋めるため。
• 完全な結合モデルと非ベイズ的アンサンブルの間のギャップを埋める、計算的に効率的かつ不確実性に配慮した転移モデルを開発するため。
• データ量、観測ノイズ、不確実性伝播が最適化性能に与える影響を評価するため。
• 限られたデータおよびノイズが多い状況下での階層的GPモデルの原理的比較を提供するため。

提案手法

• 共有カーネルとタスク固有の平均関数を用いて、タスク固有および共有成分をモデリングする統一された階層的GPフレームワークを提案する。
• ソースタスクとターゲットタスクのデータを統合しながらも、解析的扱いやすさを保つ新しい閉形式のブーストドGP転移モデル（SHGP）を導入する。
• ソースタスクの不確実性を周辺化することで閉形式の事後分布を導出する。これにより、モンテカルロサンプルを用いずとも効率的な推論が可能になる。
• ターゲットGPの平均がソースデータで訓練されたGP事前分布から抽出される階層的事前分布構造を採用する。これにより、知識の転送が可能になる。
• ソースタスクとターゲットタスクの両方の不確実性を完全にベイズ的取り扱えるようにするため、結合尤度関数を採用する。
• ソースデータを関連関数のノイズのある観測値として扱う多忠実度的構造を採用し、モデル内での不確実性伝播を可能にする。

実験結果

リサーチクエスチョン

• RQ1 限られたデータおよび高ノイズの条件下で、異なるGPベースの転移学習手法は、性能、計算コスト、不確実性伝播の観点からどのように比較されるか？
• RQ2 ソースデータ量と観測ノイズが、ベイズ的および非ベイズ的転移モデルの相対的性能に与える影響は何か？
• RQ3 完全な結合モデルと非ベイズ的アンサンブルの中間的複雑性を有しながらも、不確実性の定量的評価を維持できるモデルは設計可能か？
• RQ4 ソースデータが限られている、またはノイズが多い状況下で、不確実性伝播が最適化性能に与える影響は何か？

主な発見

• SHGPは、中程度のデータ量（例：60〜250ポイント）の状況下で、完全な階層的GP（HGP）と同等の性能を発揮するが、はるかに高い計算効率を達成する。
• 観測ノイズが高い状況（σ = 0.1）では、SHGPとBHGPが、MHGP や RGPE といった非ベイズ的手法を上回る。これは、適切な不確実性伝播のおかげである。
• ソースデータが不足している場合（例：30ポイント）、HGP や WSGP といった結合モデルがSHGPを上回る。これは、限られたデータ下では完全な不確実性モデリングの必要性を裏付ける。
• ソースデータ量が増加する（例：500ポイント）と、すべての手法の性能が類似した水準に収束する。これは、さらなる不確実性モデリングによる利点が減少することを示唆する。
• 観測ノイズが増加するにつれ、ベイズ的手法と非ベイズ的手法の性能差が拡大する。これは、不確実性伝播の重要性を裏付ける。
• 提案されたSHGPモデルは、計算効率と不確実性の正確さの両立に成功しており、限られたデータ下で高価かつ破壊的実験に適している。