[论文解读] Calibrating Predictions to Decisions: A Novel Approach to Multi-Class Calibration

Shengjia Zhao, Michael P. Kim+3 more|arXiv (Cornell University)|Jul 12, 2021

Adversarial Robustness in Machine Learning被引用 8

一句话总结

本文提出决策校准（decision calibration），一种用于多分类预测的新校准框架，确保预测概率对从有限动作集中选择的决策者而言无法与真实结果区分。作者提出一种样本高效校准算法，在 ImageNet 和皮肤病变分类任务上提升了决策质量和损失估计，同时不降低准确率，实现了接近分布校准的效果，且样本复杂度为多项式而非指数级。

ABSTRACT

When facing uncertainty, decision-makers want predictions they can trust. A machine learning provider can convey confidence to decision-makers by guaranteeing their predictions are distribution calibrated -- amongst the inputs that receive a predicted class probabilities vector $q$, the actual distribution over classes is $q$. For multi-class prediction problems, however, achieving distribution calibration tends to be infeasible, requiring sample complexity exponential in the number of classes $C$. In this work, we introduce a new notion -- \\emph{decision calibration} -- that requires the predicted distribution and true distribution to be ``indistinguishable'' to a set of downstream decision-makers. When all possible decision makers are under consideration, decision calibration is the same as distribution calibration. However, when we only consider decision makers choosing between a bounded number of actions (e.g. polynomial in $C$), our main result shows that decisions calibration becomes feasible -- we design a recalibration algorithm that requires sample complexity polynomial in the number of actions and the number of classes. We validate our recalibration algorithm empirically: compared to existing methods, decision calibration improves decision-making on skin lesion and ImageNet classification with modern neural network predictors.

研究动机与目标

• 为缺乏模型训练过程可见性的决策者解决机器学习预测中的信任差距问题。
• 克服多分类设置下分布校准所面临的指数级样本复杂度问题，该问题随类别数量呈指数增长。
• 开发一种切实可行的校准概念，确保现实决策者在从有限数量动作中选择时，其决策完整性得以保持。
• 设计一种后处理校准算法，高效实现决策校准，同时不降低准确率或似然性。
• 验证决策校准是否能实现更优的决策损失估计和相比现有校准方法的性能提升。

提出的方法

• 将决策校准作为分布校准的推广，要求预测结果对使用特定损失函数的决策者而言无法与真实结果区分。
• 定义决策校准时所依赖的损失函数族，该族仅依赖于预测概率，而非直接依赖于输入特征。
• 提出一种校准算法，对预训练模型进行后处理，以实现对任意有限动作集的决策校准。
• 采用约束优化框架调整预测概率，使具有有限动作集的决策者的期望损失最小化。
• 通过仅关注相关决策边界而非所有可能的概率向量，实现样本高效，将复杂度从指数级降低至类别数的多项式级。
• 在 ImageNet 和 HAM10000 上使用深度神经网络预测器验证该方法，并与 Dirichlet 校准和置信度校准进行比较。

实验结果

研究问题

• RQ1 能否开发一种校准框架，确保决策者无需指数级样本复杂度即可信任预测结果？
• RQ2 决策校准与现有概念（如分布校准、置信度校准、类别级校准）之间有何关系？
• RQ3 是否可能实现类别数和动作数的多项式样本复杂度下的强校准保证，而非指数级？
• RQ4 决策校准是否能在真实世界多分类分类任务中提升决策表现和损失估计准确性？
• RQ5 校准过程能否在提升校准效果的同时保持或提高模型准确率和似然性？

主要发现

• 当考虑所有可能的决策规则时，决策校准等价于分布校准；但当决策者从有限动作集中选择时，其样本复杂度可降至多项式级，从而变得可行。
• 所提出的校准算法在 ImageNet 和 HAM10000 上提升了决策表现，且随着类别数增加，其增益比 Dirichlet 校准更稳定。
• 平均而言，校准过程使准确率提升 0.30%，L2 误差降低 0.00173，表明预测性能未下降。
• 在 1000 个类别时，决策校准仍能提供可测量的收益，证明其在小类别设置之外也具备可扩展性。
• 决策校准可仅使用无标签数据更准确地估计决策损失，支持无需真实标签的模型评估。
• 由于采用有限动作假设和高效优化，该方法在可扩展性方面优于 Dirichlet 校准，尤其在类别数量增加时优势更明显。