[论文解读] Safe Active Learning for Multi-Output Gaussian Processes

Cen-You Li, Barbara Rakitsch+1 more|arXiv (Cornell University)|Mar 28, 2022

Gaussian Processes and Bayesian Inference被引用 4

一句话总结

本文提出了一种用于多输出高斯过程（MOGP）的安全主动学习框架，通过在满足安全约束的前提下选择信息丰富的输入，并处理异步输出测量。通过利用核心化线性模型（LMC）并引入不确定性感知的采集函数，该方法在收敛速度和数据效率方面优于基线方法，在模拟和真实工程数据集上均表现出色，且通过概率约束实现了安全阈值的强制执行。

ABSTRACT

Multi-output regression problems are commonly encountered in science and engineering. In particular, multi-output Gaussian processes have been emerged as a promising tool for modeling these complex systems since they can exploit the inherent correlations and provide reliable uncertainty estimates. In many applications, however, acquiring the data is expensive and safety concerns might arise (e.g. robotics, engineering). We propose a safe active learning approach for multi-output Gaussian process regression. This approach queries the most informative data or output taking the relatedness between the regressors and safety constraints into account. We prove the effectiveness of our approach by providing theoretical analysis and by demonstrating empirical results on simulated datasets and on a real-world engineering dataset. On all datasets, our approach shows improved convergence compared to its competitors.

研究动机与目标

• 解决多输出回归问题中输出相关且测量成本高或异步情况下的数据高效且安全的主动学习挑战。
• 将安全约束融入多输出高斯过程的主动学习中，确保预测结果保持在预定义的安全运行区域内。
• 设计一种兼顾信息量与安全性的采集函数，实现对输入和输出的选择性查询，同时尊重不确定性与相关性结构。
• 在真实世界工程数据上对方法进行实证验证，表明其在收敛速度和鲁棒性方面优于最先进方法。

提出的方法

• 提出一种新颖的MOGP安全主动学习采集函数，利用核心化线性模型（LMC）考虑输出间相关性与安全约束。
• 将每个输出建模为共享潜在GP的加权和，从而实现相关性的利用与不确定性量化。
• 通过概率阈值引入安全约束：p(h(x) ≤ z_max) > 0.95，确保查询点始终处于安全运行区域内。
• 将理论分析扩展至卷积过程模型，该模型支持输出特定的平滑性，提升建模灵活性。
• 采用基于池的主动学习设置，根据期望信息增益与安全可行性迭代选择输入。
• 通过允许各输出独立查询，支持输出的异步测量，从而在预算约束下提升灵活性。

实验结果

研究问题

• RQ1 如何在具有异步输出测量的多输出高斯过程回归中实现安全且高效主动学习？
• RQ2 何种采集函数设计可实现在MOGP中信息增益与安全约束满足之间的最优权衡？
• RQ3 在真实世界与模拟数据集上，所提方法相较于现有主动学习与安全学习基线，在收敛速度与数据效率方面表现如何？
• RQ4 LMC中共享潜在函数的使用在多输出主动学习中在多大程度上提升了数据效率与不确定性估计？
• RQ5 在部分观测输出场景下，输出不确定性与测量成本变化时，该方法表现如何？

主要发现

• 在安全约束下，该方法在约100个观测点时达到测试RMSE为0.85，优于基线方法在显著更多数据与数百个诱导点下达到的饱和水平0.65。
• 在真实世界发动机数据集上，该方法展现出更快的收敛速度与更好的泛化能力，30次独立实验中RMSE更低，测试对数似然更高。
• 消融研究显示，在固定预算约束下，基于MOGP的主动学习在部分观测输出（POO）设置下比完全观测输出（FOO）设置具有更高的数据效率。
• 该方法有效维持了安全约束，尽管在阈值z_max = 1下，20.55%的训练数据为不安全样本，但算法在主动学习过程中确保了p(h(x) ≤ 1) > 0.95。
• 理论分析证实，在所提出的采集函数下，安全主动学习算法具有收敛性，且在安全性和不确定性减少方面具有保证。
• 采集函数有效平衡了探索与安全性，在各输出不确定性均衡时，减少了对高不确定性输出的偏差。