[论文解读] Practical Bayesian optimization in the presence of outliers

Rubén Martínez-Cantín, Kevin Tee+1 more|arXiv (Cornell University)|Dec 12, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 22被引用 13

一句话总结

本文提出了一种混合贝叶斯优化方法，结合了鲁棒高斯过程回归与学生t分布似然函数，并引入动态异常值诊断机制，以在存在异常值的情况下提升性能。通过调度器对异常值进行分类并排除，该方法在即使未人为引入异常值的受控环境中，仍实现了比标准鲁棒回归更快的收敛速度和更优的优化结果。

ABSTRACT

Inference in the presence of outliers is an important field of research as outliers are ubiquitous and may arise across a variety of problems and domains. Bayesian optimization is method that heavily relies on probabilistic inference. This allows outstanding sample efficiency because the probabilistic machinery provides a memory of the whole optimization process. However, that virtue becomes a disadvantage when the memory is populated with outliers, inducing bias in the estimation. In this paper, we present an empirical evaluation of Bayesian optimization methods in the presence of outliers. The empirical evidence shows that Bayesian optimization with robust regression often produces suboptimal results. We then propose a new algorithm which combines robust regression (a Gaussian process with Student-t likelihood) with outlier diagnostics to classify data points as outliers or inliers. By using an scheduler for the classification of outliers, our method is more efficient and has better convergence over the standard robust regression. Furthermore, we show that even in controlled situations with no expected outliers, our method is able to produce better results.

研究动机与目标

• 为解决贝叶斯优化中异常值带来的挑战，因为异常值可能导致概率代理模型产生偏差并阻碍收敛。
• 评估标准鲁棒回归（如学生t分布似然）在贝叶斯优化中处理异常值的局限性。
• 开发一种两阶段方法，结合鲁棒建模与主动异常值分类，以提升样本效率与收敛性能。
• 证明即使在受控实验环境中也存在异常值，从而削弱标准贝叶斯优化的性能。

提出的方法

• 该方法使用带有学生t分布似然的高斯过程代理模型，以建模重尾观测噪声，增强对异常值的鲁棒性。
• 引入一种动态异常值分类调度器，基于统计诊断方法识别并从训练数据中排除异常值。
• 该方法遵循两步流程：首先对所有数据应用鲁棒回归；其次利用诊断统计量将样本分类为内点或异常值。
• 异常值分类通过迭代方式更新，使模型能够随时间逐步优化对数据质量的理解。
• 使用更新后的内点集优化采集函数（期望改进），从而提升搜索效率。
• 该方法在多个基准测试中进行了评估，包括超参数调优、机器人推物任务以及深度学习任务。

实验结果

研究问题

• RQ1 当存在异常值时，标准鲁棒贝叶斯优化（采用学生t分布似然）是否无法有效收敛？
• RQ2 将鲁棒回归与主动异常值诊断相结合，是否能提升贝叶斯优化中的收敛性能与样本效率？
• RQ3 在受控的、非对抗性的实验环境中是否存在异常值，导致标准贝叶斯优化性能下降？
• RQ4 在未人为引入异常值的情况下，所提出方法与标准贝叶斯优化相比表现如何？

主要发现

• 所提出方法在所有测试基准中（包括超参数调优与机器人推物任务）均优于标准鲁棒贝叶斯优化（采用学生t分布似然）。
• 即使在无外部人为引入异常值的情况下，该方法仍实现了比标准贝叶斯优化更优的收敛性能，表明受控环境中存在潜在异常值。
• 在变分自编码器（VAE）与前馈神经网络实验中，该方法在20%模拟异常值条件下仍保持更优性能，表现为更快收敛速度与更低的最终目标值。
• 该方法的动态异常值调度器成功识别并排除了错误数据点，提升了模型准确度与优化稳定性。
• 实证结果表明，仅依赖标准鲁棒回归不足以实现最优性能，因其无法完全消除异常值的影响。
• 本研究证明，即使异常值未被显式引入，贝叶斯优化仍对异常值敏感，凸显主动异常值检测的必要性。