[论文解读] PAC Confidence Sets for Deep Neural Networks via Calibrated Prediction

Sangdon Park, Osbert Bastani+2 more|arXiv (Cornell University)|Dec 31, 2019

Adversarial Robustness in Machine Learning参考文献 30被引用 18

一句话总结

本文提出一种方法，通过结合校准预测与统计学习理论中的泛化界，为深度神经网络构建PAC（可能近似正确）置信集。该方法确保真实标签以高概率包含在预测的置信集中，在ImageNet、视觉跟踪和强化学习基准上均实现了理论保证，同时保持了较小的置信集大小。

ABSTRACT

We propose an algorithm combining calibrated prediction and generalization bounds from learning theory to construct confidence sets for deep neural networks with PAC guarantees---i.e., the confidence set for a given input contains the true label with high probability. We demonstrate how our approach can be used to construct PAC confidence sets on ResNet for ImageNet, a visual object tracking model, and a dynamics model for the half-cheetah reinforcement learning problem.

研究动机与目标

• 为解决深度神经网络中可靠置信度估计的缺乏，特别是在安全关键应用中。
• 开发理论上保证以高概率包含真实标签的置信集（PAC保证）。
• 结合校准预测与统计学习理论，以提升置信集的可靠性和泛化能力。
• 在包括ImageNet、视觉目标跟踪和强化学习动态模型在内的多样化基准上评估该方法。
• 在医疗报警系统等实际应用中，实证验证置信集的低错误率与实用性。

提出的方法

• 该方法使用温度缩放对预训练深度神经网络的输出概率进行校准。
• 应用统计学习理论中的泛化界，推导满足PAC保证的置信集。
• 置信集 $ C_T(x) $ 的构造满足：在验证数据上以至少 $ 1 - \delta $ 的概率，有 $ \mathbb{P}_{(x,y)\sim D}[y \in C_T(x)] \geq 1 - \epsilon $。
• 通过在验证集上拟合单一温度参数 $ \tau $ 来改善校准，从而实现泛化保证。
• 对于分类任务，置信集通过选取校准后概率最高的前 $ k $ 个类别构成。
• 通过将置信集构造方法适配于连续输出和结构化输出，将该框架扩展至回归和强化学习。

实验结果

研究问题

• RQ1 能否将校准预测与泛化界结合，为深度神经网络生成PAC置信集？
• RQ2 在保持理论保证和实证有效性的同时，PAC置信集的最小尺寸可以达到多小？
• RQ3 所提出的方法是否能提升医疗报警系统等安全关键应用中的可靠性？
• RQ4 该方法在图像分类、视觉跟踪和强化学习动态建模等多样化任务中的表现如何？
• RQ5 在小样本数据集且验证数据有限的情况下，该方法是否仍能保持低实证误差？

主要发现

• 在ImageNet上，该方法生成的置信集在实证上有效，CHOP报警数据集上的实证置信集误差为 $ \hat{L}(C;Z_{\text{test}}) = 0.0159 $，低于目标值 $ \epsilon = 0.02 $。
• 在CHOP报警数据集上，使用置信集预测器抑制了27.94%的误报，同时仅错误抑制了6.95%的真实报警。
• 在Auto MPG回归数据集上，实证置信集误差为 $ \hat{L}(C;Z_{\text{test}}) = 0.1250 $，略高于 $ \epsilon = 0.1 $，可能由于 $ \delta = 0.05 $ 相对较大。
• 在学生分数回归数据集上，实证误差为 $ \hat{L}(C;Z_{\text{test}}) = 0.0597 $，远低于 $ \epsilon = 0.1 $，表明具有很强的实证有效性。
• 在视觉目标跟踪任务中，置信集预测器生成的绿色边界框以高概率覆盖真实边界框，展现出良好的鲁棒性。
• 在ImageNet的简单图像上，该方法实现了较小的置信集大小（例如，清晰样本的 $ |C(x)| = 1 $），而对更模糊或更具挑战性的输入则采用更大的置信集。