[论文解读] PAC Confidence Predictions for Deep Neural Network Classifiers

Sangdon Park, Shuo Li+2 more|arXiv (Cornell University)|Nov 2, 2020

Adversarial Robustness in Machine Learning参考文献 39被引用 6

一句话总结

本文提出了一种用于深度神经网络分类器的PAC置信度预测方法，通过Clopper-Pearson置信区间和直方图分箱，提供理论上保证的置信区间。该方法在分布内校准中具有高概率正确性，支持快速推理和安全规划应用中的可证明保证，在严格误差和风险约束下，优于基线方法，保持了更高的准确性和安全性。

ABSTRACT

A key challenge for deploying deep neural networks (DNNs) in safety critical settings is the need to provide rigorous ways to quantify their uncertainty. In this paper, we propose a novel algorithm for constructing predicted classification confidences for DNNs that comes with provable correctness guarantees. Our approach uses Clopper-Pearson confidence intervals for the Binomial distribution in conjunction with the histogram binning approach to calibrated prediction. In addition, we demonstrate how our predicted confidences can be used to enable downstream guarantees in two settings: (i) fast DNN inference, where we demonstrate how to compose a fast but inaccurate DNN with an accurate but slow DNN in a rigorous way to improve performance without sacrificing accuracy, and (ii) safe planning, where we guarantee safety when using a DNN to predict whether a given action is safe based on visual observations. In our experiments, we demonstrate that our approach can be used to provide guarantees for state-of-the-art DNNs.

研究动机与目标

• 为解决深度神经网络（DNN）置信度校准中缺乏理论保证的问题，特别是在过度自信常见的安全关键系统中。
• 开发一种在分布内假设下，为DNN预测提供可能近似正确（PAC）置信度边界的方法。
• 实现快速DNN与慢速DNN的严格组合，以提升推理速度而不损失准确性。
• 通过基于DNN的感知模型，在规划任务中实现高概率的安全保证。

提出的方法

• 该方法使用直方图分箱将DNN置信度分数分组，并对每个分箱应用校准，利用每个分箱内正确预测的实证频率。
• 对每个分箱的二项比例应用Clopper-Pearson置信区间，以计算校准置信度的上下界。
• 利用这些边界构建PAC验证的置信区间，确保在测试分布上以高概率正确。
• 该方法被集成到两个应用中：(1) 带有保证误差边界的快速与慢速DNN组合；(2) 基于置信度阈值的动作选择的安全规划。
• 该算法确保最终模型的误差率在高概率（1−δ）下低于用户指定的阈值ξ，使用大小为n的校准集。
• 该方法通过MACs、CPU和GPU推理时间指标进行评估，并与直方图分箱、Softmax缩放和温度缩放等基线方法进行比较。

实验结果

研究问题

• RQ1 我们能否在分布内假设下，为DNN分类器构建具有理论正确性的置信度预测？
• RQ2 PAC置信区间如何与直方图分箱有效结合，以生成校准且可证明正确的置信边界？
• RQ3 所提出的方法能否实现一种组合推理策略，在保持用户指定阈值以下的保证误差率的同时提升速度？
• RQ4 该方法能否通过基于置信度阈值过滤动作，确保规划任务中具有高概率的安全性？

主要发现

• 所提方法在所有测试设置中均保证分类误差低于期望阈值ξ，同时相比慢速DNN模型将推理速度提升了32%。
• 在GPU和CPU上，该方法相比基线慢速模型将推理时间减少了54%，同时分类误差仅增加1%。
• 与直方图分箱及其他基线方法不同，所提方法在所有测试的ξ值下均一致满足期望误差边界，而基线方法频繁违反该边界。
• 在安全规划中，该方法以高概率实现了期望的安全率（ξ），而使用固定或自适应阈值的朴素方法在低ξ值下无法满足安全约束。
• 直方图分箱基线在速度和安全率方面表现相近，但缺乏理论保证；而所提方法提供了高概率下的绝对正确性。
• 计算置信区间的耗时可忽略不计，表明该方法适用于实时部署。