[論文レビュー] Safe Active Learning for Multi-Output Gaussian Processes

Cen-You Li, Barbara Rakitsch+1 more|arXiv (Cornell University)|Mar 28, 2022

Gaussian Processes and Bayesian Inference被引用数 4

ひとこと要約

本稿では、安全制約を尊重しながら情報量の多い入力を選択し、非同期な出力測定に対応する多出力ガウス過程（MOGP）の安全なアクティブラーニングフレームワークを提案する。線形共分散モデル（LMC）を活用し、不確実性を考慮した獲得関数を組み込むことで、ベースラインと比較して収束が早く、データ効率に優れた性能を示した。シミュレーションおよび実世界の工学的データセットにおいて、確率的制約によって定義される安全閾値を厳守しながら、強力な性能を発揮した。

ABSTRACT

Multi-output regression problems are commonly encountered in science and engineering. In particular, multi-output Gaussian processes have been emerged as a promising tool for modeling these complex systems since they can exploit the inherent correlations and provide reliable uncertainty estimates. In many applications, however, acquiring the data is expensive and safety concerns might arise (e.g. robotics, engineering). We propose a safe active learning approach for multi-output Gaussian process regression. This approach queries the most informative data or output taking the relatedness between the regressors and safety constraints into account. We prove the effectiveness of our approach by providing theoretical analysis and by demonstrating empirical results on simulated datasets and on a real-world engineering dataset. On all datasets, our approach shows improved convergence compared to its competitors.

研究の動機と目的

• 出力が相関しており、測定が高コストまたは非同期的な多出力回帰問題における、データ効率的かつ安全なアクティブラーニングの課題に対処すること。
• 安全制約を多出力ガウス過程のアクティブラーニングに組み込み、予測が事前に定義された安全領域内に保たれることを保証すること。
• 情報性と安全性のバランスを取る獲得関数の開発を目的とし、不確実性および相関構造を考慮した入力・出力の選択的クエリを可能にすること。
• 実世界の工学的データ上で本手法を実証的に検証し、最先端の手法と比較して収束性と頑健性に優れていることを示すこと。

提案手法

• 線形共分散モデル（LMC）を用いて、出力間の相関と安全制約を考慮した、MOGPにおける安全なアクティブラーニングのための新規獲得関数を提案。
• 各出力を共有の潜在ガウス過程の重み付き和としてモデル化することで、相関の活用と不確実性の評価を可能にする。
• 確率的閾値 p(h(x) ≤ z_max) > 0.95 を用いて安全制約を統合し、クエリされた点が安全領域内に保たれることを保証。
• 畳み込み過程モデルへの理論的分析を拡張し、出力固有の滑らかさを可能とし、モデルの柔軟性を向上。
• 期待情報量と安全な実行可能性に基づいて反復的に入力を選択するプールベースのアクティブラーニング設定を採用。
• 個々の出力を独立にクエリ可能にすることで、予算制約下でも出力の非同期測定に対応し、柔軟性を向上。

実験結果

リサーチクエスチョン

• RQ1 非同期出力測定を伴う多出力ガウス過程回帰において、どのようにして安全かつ効率的なアクティブラーニングを実現できるか？
• RQ2 MOGPにおける情報量の最大化と安全制約の満たし方の最適なトレードオフを実現する獲得関数の設計はどのようなものか？
• RQ3 本手法は、実世界およびシミュレーションデータセットにおいて、既存のアクティブラーニングおよび安全学習ベースラインと比較して、収束速度とデータ効率に優れているか？
• RQ4 LMCにおける共有の潜在関数の使用が、多出力アクティブラーニングにおけるデータ効率および不確実性推定にどの程度寄与するか？
• RQ5 部分観測出力状況下で、出力の不確実性および測定コストの変動に応じて、本手法はどの程度の性能を示すか？

主な発見

• 安全制約下で約100件の観測でテストRMSEが0.85に達し、ベースラインの飽和レベル0.65（はるかに多くのデータと数百万のインダクティングポイントを要する）を上回った。
• 実世界のエンジンデータセットでは、30回の独立実験を通じて、RMSEが低く、テスト対数尤度が高いため、競合手法と比較して収束が早く、一般化性能に優れた。
• アブレーションスタディでは、MOGPに基づく部分観測出力（POO）設定が、完全観測出力（FOO）設定よりも高いデータ効率を示した。特に予算制約が固定された状況で顕著であった。
• 本手法は安全制約を効果的に維持した。z_max = 1の閾値下で、学習データの20.55%が不正であるにもかかわらず、アルゴリズムはアクティブラーニング中に p(h(x) ≤ 1) > 0.95 を保証した。
• 理論的分析により、提案された獲得関数に基づく安全なアクティブラーニングアルゴリズムの収束が保証され、安全制約および不確実性低減の保証が得られた。
• 獲得関数は探索と安全性のバランスを効果的にとった。出力間の不確実性が均等である場合、高不確実性出力へのバイアスが低減された。