[论文解读] Bayesian Optimization Meets Laplace Approximation for Robotic Introspection

Matthias Humt, Jong‐Seok Lee+1 more|arXiv (Cornell University)|Oct 30, 2020

Machine Learning and Data Classification参考文献 34被引用 5

一句话总结

该论文提出了一种可扩展的拉普拉斯近似（LA）框架，结合贝叶斯优化（BO），以提升深度神经网络在机器人自省中的不确定性校准能力。通过使用BO优化正则化超参数，该方法减轻了LA后验近似中的欠拟合问题，相较于随机搜索，实现了更优的校准效果与更高的准确率，且在使用DenseNet121的ImageNet数据集上已验证其有效性。

ABSTRACT

In robotics, deep learning (DL) methods are used more and more widely, but their general inability to provide reliable confidence estimates will ultimately lead to fragile and unreliable systems. This impedes the potential deployments of DL methods for long-term autonomy. Therefore, in this paper we introduce a scalable Laplace Approximation (LA) technique to make Deep Neural Networks (DNNs) more introspective, i.e. to enable them to provide accurate assessments of their failure probability for unseen test data. In particular, we propose a novel Bayesian Optimization (BO) algorithm to mitigate their tendency of under-fitting the true weight posterior, so that both the calibration and the accuracy of the predictions can be simultaneously optimized. We demonstrate empirically that the proposed BO approach requires fewer iterations for this when compared to random search, and we show that the proposed framework can be scaled up to large datasets and architectures.

研究动机与目标

• 为解决深度神经网络（DNNs）中缺乏可靠的置信度估计问题，该问题限制了长期自主机器人系统的发展。
• 克服拉普拉斯近似（LA）在DNNs中固有的欠拟合问题，即高斯后验无法捕捉真实权重后验的非对称性。
• 开发一种可扩展且实用的方法，用于在不引入如Dropout层等网络架构修改的前提下，估计大规模DNNs中的模型不确定性。
• 通过使用贝叶斯优化（BO）对LA正则化超参数进行优化，提升DNNs的校准效果与预测准确性。

提出的方法

• 将拉普拉斯近似（LA）应用于深度神经网络权重的后验分布近似，采用以最大后验估计（MAP）为中心的多元高斯分布。
• 利用损失曲面的海森矩阵的逆矩阵（即曲率）定义高斯后验的协方差矩阵，从而实现不确定性估计。
• 采用克罗内克积分解方法，将海森矩阵计算扩展至大规模DNNs，实现在现代架构上的高效计算。
• 提出一种新颖的贝叶斯优化（BO）框架，用于调节控制LA后验的正则化超参数，缓解欠拟合问题。
• 使用概率代理模型（高斯过程，GP）引导最优超参数的搜索，聚焦于高价值区域，避免陷入代价高昂的欠拟合区域。
• 通过为每一层单独引入曲率正则化，实现分层正则化，提升高维超参数空间中的表达能力。

实验结果

研究问题

• RQ1 贝叶斯优化（BO）在优化深度神经网络中拉普拉斯近似（LA）的超参数时，是否优于随机搜索？
• RQ2 所提出的LA-BO框架是否在预测准确率与校准性能（以期望校准误差ECE衡量）方面，优于标准DNNs与MC-Dropout方法？
• RQ3 LA-BO框架是否可扩展至大规模数据集（如ImageNet）及复杂架构（如DenseNet121）？
• RQ4 在高维超参数空间中（如对各层分别正则化时），该方法表现如何？
• RQ5 LA-BO框架在多大程度上减少了置信度区间（如0.6–0.7）中的过度自信问题？

主要发现

• 所提出的基于BO的LA超参数优化方法收敛速度优于随机搜索，在更少的评估次数下即可实现更优的校准与准确率。
• 在CIFAR-10数据集上使用ResNet18时，LA + BO的期望校准误差（ECE）为0.17，显著低于基线ECE的4.57以及LA + RS的0.70。
• 在使用DenseNet121的ImageNet数据集上，BO在相同10次评估预算下获得的ECE低于随机搜索，且在0.6–0.7置信度区间内校准性能更优。
• 该方法在准确率上略有提升（从74.42%提升至约74.5%）的同时，大幅降低了校准误差，表明权重的边际化处理显著提升了性能。
• 即使采用对角曲率近似（非最先进方法），LA与BO结合仍显著改善了校准效果，表明该方法具备鲁棒性与实用性。
• 该框架成功扩展至大规模模型与数据集，证明其在需要自省AI的真实机器人应用中的可行性。