[论文解读] Evaluating Model Robustness to Dataset Shift.

Adarsh Subbaswamy, Roy J. Adams+1 more|arXiv (Cornell University)|Oct 28, 2020

Machine Learning in Healthcare参考文献 3被引用 9

一句话总结

本文提出了一种框架，通过在单一固定评估数据集上定义可能分布的不确定性集合（基于条件分布偏移），来评估机器学习模型对数据集偏移的鲁棒性。该框架引入了一种去偏估计器，即使在扰动参数估计器收敛缓慢的情况下也能保持√N一致性，从而实现在真实世界医疗风险预测任务中可靠地估计最坏情况下的性能。

ABSTRACT

As the use of machine learning in safety-critical domains becomes widespread, the importance of evaluating their safety has increased. An important aspect of this is evaluating how robust a model is to changes in setting or population, which typically requires applying the model to multiple, independent datasets. Since the cost of collecting such datasets is often prohibitive, in this paper, we propose a framework for evaluating this type of robustness using a single, fixed evaluation dataset. We use the original evaluation data to define an uncertainty set of possible evaluation distributions and estimate the algorithm's performance on the distribution within this set. Specifically, we consider distribution shifts defined by conditional distributions, allowing some distributions to shift while keeping other portions of the data distribution fixed. This results in finer-grained control over the considered shifts and more plausible worst-case distributions than previous approaches based on covariate shifts. To address the challenges associated with estimation in complex, high-dimensional distributions, we derive a debiased estimator which maintains $\sqrt{N}$-consistency even when machine learning methods with slower convergence rates are used to estimate the nuisance parameters. In experiments on a real medical risk prediction task, we show that this estimator can be used to evaluate robustness and accounts for realistic shifts that cannot be expressed as covariate shift. The proposed framework provides a means for practitioners to proactively evaluate the safety of their models using a single validation dataset.

研究动机与目标

• 受医疗等安全关键领域中对模型安全性评估需求日益增长的驱动，这些领域中数据集偏移十分常见。
• 解决为鲁棒性评估收集多个独立数据集通常成本过高的挑战。
• 通过建模条件分布偏移而非仅协变量偏移，实现对最坏情况鲁棒性的细粒度、现实性评估。
• 为实践者提供一种实用的单数据集解决方案，可在无需额外数据收集的情况下主动评估模型安全性。

提出的方法

• 基于原始数据集定义可能评估分布的不确定性集合，聚焦于条件分布的偏移，同时保持数据分布的某些部分固定。
• 通过条件分布建模分布偏移，从而对所考虑的偏移类型实现更合理且细粒度的控制。
• 推导出一种性能评估的去偏估计器，即使在使用收敛速度较慢的机器学习模型估计扰动参数时，也能保持√N一致性。
• 使用去偏估计器估计不确定性集合中所有分布的最坏情况模型性能，从而实现在现实分布偏移下的鲁棒性评估。
• 将该框架应用于真实医疗风险预测任务，以验证其在捕捉无法用协变量偏移表达的偏移方面的有效性。

实验结果

研究问题

• RQ1 是否可以仅使用单一固定数据集，在无需额外数据收集的情况下评估模型对现实分布偏移的鲁棒性？
• RQ2 如何建模条件分布偏移，以实现比协变量偏移模型更合理、更细粒度的最坏情况性能估计？
• RQ3 当使用收敛速度较慢的机器学习方法估计扰动参数时，去偏估计器是否仍能保持√N一致性？
• RQ4 所提出的框架在多大程度上能够检测并量化那些未被传统协变量偏移假设捕捉到的偏移的鲁棒性？

主要发现

• 所提出的框架仅需一个验证数据集即可实现鲁棒性评估，消除了对跨多个分布进行昂贵数据收集的需求。
• 通过建模条件分布偏移，该框架捕捉到了比传统协变量偏移假设更真实、更细致的分布偏移。
• 即使在使用收敛速度较慢的模型估计扰动参数时，去偏估计器仍能保持√N一致性，确保性能估计的可靠性。
• 在一项真实医疗风险预测任务中，该框架成功识别出无法用协变量偏移表达的偏移下的鲁棒性问题，证明了其实际应用价值。