[論文レビュー] Bayesian Active Learning with Fully Bayesian Gaussian Processes

Christoffer Riis, Francisco Antunes+3 more|arXiv (Cornell University)|May 20, 2022

Machine Learning and Algorithms被引用数 10

ひとこと要約

本稿では、完全ベイジアンガウス過程（FBGP）を対象として、バイアス-バリアンストレードオフを明示的に最適化する2つの新規ベイジアンアクティブラーニングの獲得関数—B-QBCおよびQB-MGP—を提案する。ハイパーパrameter（長さスケールℓとノイズ分散σ²）の同時事後分布を活用することで、データ効率が向上し、6つのシミュレータ全体で平均して負の対数尤度を41%、平均二乗誤差を12%削減した。

ABSTRACT

The bias-variance trade-off is a well-known problem in machine learning that only gets more pronounced the less available data there is. In active learning, where labeled data is scarce or difficult to obtain, neglecting this trade-off can cause inefficient and non-optimal querying, leading to unnecessary data labeling. In this paper, we focus on active learning with Gaussian Processes (GPs). For the GP, the bias-variance trade-off is made by optimization of the two hyperparameters: the length scale and noise-term. Considering that the optimal mode of the joint posterior of the hyperparameters is equivalent to the optimal bias-variance trade-off, we approximate this joint posterior and utilize it to design two new acquisition functions. The first one is a Bayesian variant of Query-by-Committee (B-QBC), and the second is an extension that explicitly minimizes the predictive variance through a Query by Mixture of Gaussian Processes (QB-MGP) formulation. Across six simulators, we empirically show that B-QBC, on average, achieves the best marginal likelihood, whereas QB-MGP achieves the best predictive performance. We show that incorporating the bias-variance trade-off in the acquisition functions mitigates unnecessary and expensive data labeling.

研究の動機と目的

• 限られたデータにおけるガウス過程（GPs）のバイアス-バリアンストレードオフの悪さが原因で、アクティブラーニングにおけるデータラベル付けが非効率であるという課題に対処すること。
• GPハイパーパrameterの不確実性を明示的に取り入れた獲得関数を開発し、モデル選択と予測精度を向上させること。
• 完全ベイジアンGP推論が、標準的なGPベースのアクティブラーニングよりも優れた獲得意思決定を可能にすることを示すこと。
• 多様な複雑さとノイズ構造（非定常的ノイズを含む）を有するシミュレータを対象に、提案手法の性能を評価すること。
• ハイパーパrameterの同時事後分布を組み込むことで、よりロバストで効率的なアクティブラーニングが実現できることを示すこと。

提案手法

• MCMCサンプリングを用いて長さスケールℓとノイズ分散σ²のハイパーパrameterを周辺化する完全ベイジアンGP（FBGP）を採用し、モデル仮説における不確実性を捉える。
• B-QBC獲得関数は、FBGP事後分布から抽出された複数のGPモデル間の不一致に基づいてデータポイントを選択し、不確実性の高い領域の探索を促進する。
• QB-MGP獲得関数は、予測分散の最小化とGPモデルの混合による多様性の確保を組み合わせ、入力空間全体での不確実性を明示的に低減する。
• ハイパーパrameterの同時事後分布はMCMCを用いて近似され、特にバイアス-バリアンストレードオフが曖昧になる低データ環境においても、多峰性の分布を反映する。
• 獲得関数は反復的に評価される：各ステップでモデルは平均と分散を予測し、次回のクエリポイントは提案基準に基づいて選択される。
• 点推定に依存するのではなく、全事後分布推論を用いてデータ選択をガイドすることで、初期段階における劣化したモデル指針を回避する。

実験結果

リサーチクエスチョン

• RQ1 完全ベイジアンGP推論は、低データ環境におけるバイアス-バリアンストレードオフをよりよく捉えることで、アクティブラーニングの性能を向上させることができるか？
• RQ2 GPハイパーパrameterの不確実性をモデル化することは、アクティブラーニングにおけるデータ取得の効率性と正確性にどのように影響するか？
• RQ3 ハイパーパrameterの同時事後分布は、複数の妥当なバイアス-バリアンストレードオフを示し得るか？ そして、そのような多様な解釈を獲得関数の改善に活用できるか？
• RQ4 B-QBCおよびQB-MGPは、多様なシミュレータにおいて、標準的な獲得関数と比較して、対数尤度と予測誤差の両面で優れた性能を示すか？
• RQ5 提案手法は、ホモスケダスティックGPでモデル化された非定常的ノイズを有するシミュレータに対しても、適応可能か？

主な発見

• B-QBCは6つのシミュレータ全体で平均して、ベースラインと比較して負の対数尤度を41%削減し、最も優れた平均尤度改善を達成した。
• QB-MGPは予測性能が最も優れており、ベースラインと比較して平均二乗誤差を12%削減した。
• 低データ環境では、長さスケールおよびノイズのハイパーパラメータの多峰性事後分布が観察され、複数の妥当なバイアス-バリアンストレードオフが存在することが示された。
• 非定常的ノイズを有するモーターサイクルシミュレータでは、B-QBCはノイズ構造にだまされ、中央部で不確実性の高い不一致に過剰適合したが、QB-MGPは分散最小化によりロバストな性能を維持した。
• QB-MGPのB-ALM部は多様性の指標として機能し、全体の予測不確実性を低減することで探索を促進した。
• 提案手法は、元のシミュレータの関数的複雑さやノイズ構造に関する事前知識がなくても、多様なシミュレータに対してロバストであった。