[论文解读] PAC Prediction Sets Under Covariate Shift

Sangdon Park, Edgar Dobriban+2 more|arXiv (Cornell University)|Jun 17, 2021

Adversarial Robustness in Machine Learning参考文献 44被引用 5

一句话总结

本文通过利用重要性权重，在协变量偏移下提出PAC预测集，以在测试数据分布与训练数据不同时保持有效的不确定性量化。它提出PS-W这一鲁棒算法，结合重要性权重的置信区间与拒绝采样，实现了在ImageNet和DomainNet多个领域偏移下，平均归一化预测集尺寸最小且始终满足PAC约束。

ABSTRACT

An important challenge facing modern machine learning is how to rigorously quantify the uncertainty of model predictions. Conveying uncertainty is especially important when there are changes to the underlying data distribution that might invalidate the predictive model. Yet, most existing uncertainty quantification algorithms break down in the presence of such shifts. We propose a novel approach that addresses this challenge by constructing \emph{probably approximately correct (PAC)} prediction sets in the presence of covariate shift. Our approach focuses on the setting where there is a covariate shift from the source distribution (where we have labeled training examples) to the target distribution (for which we want to quantify uncertainty). Our algorithm assumes given importance weights that encode how the probabilities of the training examples change under the covariate shift. In practice, importance weights typically need to be estimated; thus, we extend our algorithm to the setting where we are given confidence intervals for the importance weights. We demonstrate the effectiveness of our approach on covariate shifts based on DomainNet and ImageNet. Our algorithm satisfies the PAC constraint, and gives prediction sets with the smallest average normalized size among approaches that always satisfy the PAC constraint.

研究动机与目标

• 解决现有不确定性量化方法在协变量偏移下失效的问题，即测试数据分布与训练数据不一致时。
• 开发一种方法，在输入分布发生偏移但条件标签分布保持不变时，仍能维持概率近似正确（PAC）预测集。
• 通过引入置信区间，处理重要性权重中的不确定性，使方法对估计误差具有鲁棒性。
• 在始终满足PAC约束的方法中，实现最小的平均归一化预测集尺寸。

提出的方法

• 使用重要性权重建模在从源域到目标域的协变量偏移下，训练样本似然的变化。
• 当重要性权重已知时，使用拒绝采样构建PAC预测集。
• 将方法扩展至处理重要性权重周围的置信区间，确保对估计误差的鲁棒性。
• 应用归纳 conformal 预测，并使用校准集，以在分布偏移下保持有效的覆盖。
• 通过调节控制集合大小的阈值τ来优化预测集尺寸，同时保持PAC覆盖。
• 采用两阶段流程：在源数据上训练模型，然后使用加权重要性采样在保留的校准集上校准预测集。

实验结果

研究问题

• RQ1 当输入分布发生变化时，能否在协变量偏移下可靠地维持PAC预测集？
• RQ2 如何将重要性权重中的不确定性纳入预测集构建，以确保鲁棒性？
• RQ3 在协变量偏移下，预测集尺寸与覆盖误差之间的权衡是什么？
• RQ4 在多种领域偏移下，所提方法与现有方法相比，在预测集尺寸与有效性方面表现如何？

主要发现

• PS-W在DomainNet和ImageNet的九种协变量偏移下均满足PAC约束，而现有方法如PS和WSCI未能达到误差边界。
• 在所有保证PAC约束的方法中，所提方法实现了最小的平均归一化预测集尺寸。
• 在速率偏移（如白天到夜晚）下，PS-W构建了有效的预测集，而现有方法失败。
• 在迁移偏移（如ImageNet到ImageNet-C和ImageNet-PGD）下，PS-W以最小的集合尺寸维持了覆盖性能，优于PS和WSCI。
• 图9–11的可视化结果表明，PS-W比PS更可靠地包含真实标签，尤其在具有挑战性的偏移下。
• 该方法对重要性权重估计误差具有鲁棒性，如在置信区间不确定性下表现所示。