[论文解读] A Study on Mitigating Hard Boundaries of Decision-Tree-based Uncertainty Estimates for AI Models

Pascal Gerber, Lisa Jöckel+1 more|arXiv (Cornell University)|Jan 10, 2022

Explainable Artificial Intelligence (XAI)被引用 4

一句话总结

本文通过将替代集成方法整合到不确定性包装器框架中，提出对基于决策树的AI模型不确定性估计中的硬性决策边界进行软化。基于CARLA模拟器的行人检测数据与YOLOv3的实验表明，随机森林在提升Brier评分表现并降低边界敏感性方面最为有效，但代价是可解释性降低和运行时复杂度增加。

ABSTRACT

Outcomes of data-driven AI models cannot be assumed to be always correct. To estimate the uncertainty in these outcomes, the uncertainty wrapper framework has been proposed, which considers uncertainties related to model fit, input quality, and scope compliance. Uncertainty wrappers use a decision tree approach to cluster input quality related uncertainties, assigning inputs strictly to distinct uncertainty clusters. Hence, a slight variation in only one feature may lead to a cluster assignment with a significantly different uncertainty. Our objective is to replace this with an approach that mitigates hard decision boundaries of these assignments while preserving interpretability, runtime complexity, and prediction performance. Five approaches were selected as candidates and integrated into the uncertainty wrapper framework. For the evaluation based on the Brier score, datasets for a pedestrian detection use case were generated using the CARLA simulator and YOLOv3. All integrated approaches achieved a softening, i.e., smoothing, of uncertainty estimation. Yet, compared to decision trees, they are not so easy to interpret and have higher runtime complexity. Moreover, some components of the Brier score impaired while others improved. Most promising regarding the Brier score were random forests. In conclusion, softening hard decision tree boundaries appears to be a trade-off decision.

研究动机与目标

• 解决基于树的不确定性聚类中因硬性决策边界导致的不确定性突变问题。
• 在平滑不确定性估计的同时，保持模型可解释性、预测性能和计算效率。
• 评估可替代或补充决策树的其他方法在不确定性包装器框架中的表现。
• 评估不确定性估计质量、可解释性与计算成本之间的权衡。

提出的方法

• 将五种候选方法——随机森林、k-NN、SVM、逻辑回归和k-均值——集成到不确定性包装器框架中，以替代或补充决策树。
• 使用CARLA模拟器生成具有受控输入质量变化的合成行人检测数据集。
• 采用YOLOv3作为基础目标检测模型，生成用于不确定性估计的预测结果。
• 以Brier评分作为主要指标，评估不同方法在不确定性校准方面的表现。
• 基于特征相似性对输入进行聚类，以分配不确定性水平，其中软性分配方法取代了离散的树状分配。
• 评估每种方法对不确定性平滑性、可解释性和计算开销的影响。

实验结果

研究问题

• RQ1 软性分配方法与硬性决策树相比，在降低不确定性边界敏感性方面表现如何？
• RQ2 哪种替代方法在不确定性校准（Brier评分）与可解释性之间提供了最佳权衡？
• RQ3 每种方法对运行时复杂度和模型性能有何影响？
• RQ4 软化技术在不降低预测准确性的前提下，能在多大程度上改善不确定性估计？
• RQ5 Brier评分的不同组成部分如何响应所提出的软化方法？

主要发现

• 所有集成方法均成功软化了基于树的不确定性分配的硬性决策边界，减少了不确定性突变。
• 随机森林在所有方法中实现了最有利的Brier评分改进，表明其不确定性校准效果更优。
• 尽管性能有所提升，但随机森林和k-NN等软性方法相比单棵决策树，可解释性有所降低。
• 基于集成的方法显著增加了运行时复杂度，尤其在随机森林和k-NN中更为明显。
• 某些方法导致Brier评分的某些组成部分恶化，表明校准质量存在部分权衡。
• 本研究证实，软化决策边界涉及不确定性平滑性、可解释性与计算成本之间的根本性权衡。