[论文解读] Adaptive Ensemble Prediction for Deep Neural Networks based on Confidence Level

Hiroshi Inoue|arXiv (Cornell University)|Feb 27, 2017

Explainable Artificial Intelligence (XAI)被引用 10

一句话总结

本文提出了一种用于深度神经网络的自适应集成预测方法，该方法根据预测置信度水平动态停止集成，从而在不损失准确率的前提下降低推理成本。通过使用统计上严谨的置信度阈值，该方法优于简单的早期退出方法，并在显著降低计算开销的同时实现了与静态集成相当的准确率。

ABSTRACT

Ensembling multiple predictions is a widely used technique for improving the accuracy of various machine learning tasks. One obvious drawback of ensembling is its higher execution cost during inference. In this paper, we first describe our insights on the relationship between the probability of prediction and the effect of ensembling with current deep neural networks; ensembling does not help mispredictions for inputs predicted with a high probability even when there is a non-negligible number of mispredicted inputs. This finding motivated us to develop a way to adaptively control the ensembling. If the prediction for an input reaches a high enough probability, i.e., the output from the softmax function, on the basis of the confidence level, we stop ensembling for this input to avoid wasting computation power. We evaluated the adaptive ensembling by using various datasets and showed that it reduces the computation cost significantly while achieving accuracy similar to that of static ensembling using a pre-defined number of local predictions. We also show that our statistically rigorous confidence-level-based early-exit condition reduces the burden of task-dependent threshold tuning better compared with naive early exit based on a pre-defined threshold in addition to yielding a better accuracy with the same cost.

研究动机与目标

• 解决深度神经网络中集成方法带来的高推理成本问题。
• 探究高置信度预测是否仍能从额外的集成中获益。
• 开发一种基于置信度水平的早期退出机制，以减少计算量而不降低准确率。
• 通过用统计基础准则替代启发式阈值，最小化特定任务的超参数调优。
• 实现在与静态集成相当的推理效率的同时，减少每个输入的预测次数。

提出的方法

• 该方法使用softmax输出概率作为每个预测的置信度度量。
• 应用统计推导出的置信度阈值，以确定何时对给定输入停止集成。
• 仅当预测置信度低于阈值时才继续集成，从而避免冗余计算。
• 该阈值基于对预测可靠性和不确定性的统计分析推导得出。
• 该方法根据置信度动态调整每个输入的计算量，而非固定数量的估计器。
• 将早期退出集成到推理流程中，支持可变长度的前向传播。

实验结果

研究问题

• RQ1 对于已被深度神经网络赋予高置信度的输入，集成是否仍能提升预测性能？
• RQ2 基于置信度水平的早期退出策略是否能在保持准确率的同时降低计算成本？
• RQ3 与启发式阈值相比，基于统计基础的阈值在早期退出性能上表现如何？
• RQ4 自适应集成在不降低模型准确率的前提下，能在多大程度上减少推理时间？
• RQ5 该方法是否能减少早期退出系统中对特定任务超参数调优的需求？

主要发现

• 该方法在保持与固定预测次数的静态集成相当的准确率的同时，显著降低了推理计算成本。
• 对于已以高置信度预测的输入，集成提供的增益微乎其微，验证了早期退出的必要性。
• 基于统计推导的置信度阈值在准确率和对超参数选择的鲁棒性方面均优于简单的阈值基早期退出方法。
• 在相同计算成本下，该自适应方法的准确率优于基线早期退出方法。
• 该方法通过依赖有原则的统计准则，减少了对特定任务阈值调优的负担。
• 在多个数据集上的评估结果表明，该方法在不同网络架构下均一致实现了效率和准确率的提升。