[论文解读] Supervising Feature Influence

Shayak Sen, Piotr Mardziel+2 more|arXiv (Cornell University)|Mar 28, 2018

Machine Learning and Data Classification参考文献 8被引用 6

一句话总结

本文提出了一种新颖的主动学习算法，通过在机器学习模型中约束因果影响，以解决因果测试中的协变量偏移问题——即在分布内性能相同的情况下，模型的特征影响却存在显著差异。通过使用反事实查询和引导式特征选择，该方法训练出的模型其因果影响接近参考模型，从而在保持分布内准确率的同时，提升了分布外泛化能力。

ABSTRACT

Causal influence measures for machine learnt classifiers shed light on the reasons behind classification, and aid in identifying influential input features and revealing their biases. However, such analyses involve evaluating the classifier using datapoints that may be atypical of its training distribution. Standard methods for training classifiers that minimize empirical risk do not constrain the behavior of the classifier on such datapoints. As a result, training to minimize empirical risk does not distinguish among classifiers that agree on predictions in the training distribution but have wildly different causal influences. We term this problem covariate shift in causal testing and formally characterize conditions under which it arises. As a solution to this problem, we propose a novel active learning algorithm that constrains the influence measures of the trained model. We prove that any two predictors whose errors are close on both the original training distribution and the distribution of atypical points are guaranteed to have causal influences that are also close. Further, we empirically demonstrate with synthetic labelers that our algorithm trains models that (i) have similar causal influences as the labeler's model, and (ii) generalize better to out-of-distribution points while (iii) retaining their accuracy on in-distribution points.

研究动机与目标

• 识别并形式化因果测试中协变量偏移的问题，即在分布内性能相同的情况下，模型的因果影响存在显著差异。
• 通过设计一种主动学习框架，利用反事实查询来约束特征影响，以解决该问题。
• 确保模型在保持分布内准确率的同时，对分布外样本具有更好的泛化能力。
• 通过支持对特征影响与可信参考模型进行验证，为模型开发提供可问责机制。

提出的方法

• 该方法采用双预言机设置：一个特征选择预言机和一个标注预言机，后者通过固定其他特征而扰动特定特征来生成反事实数据点。
• 采用引导式主动学习策略，选择在基础模型与当前模型之间影响差异最大的特征。
• 该算法迭代地收集反事实点的标签，并重新训练模型，使其因果影响与参考模型对齐。
• 形式化证明了：若两个模型在原始分布和反事实分布上的误差均相近，则其因果影响也彼此接近。
• 该方法使用合成标注者进行评估，并在 adult、arrests 和 lending club 数据集上，基于逻辑回归、决策树和随机森林进行测试。
• 该方法包含一个非反事实基线，用于对比使用分布外反事实点的影响。

实验结果

研究问题

• RQ1 在何种条件下，因果测试中会出现协变量偏移，导致在分布内性能相同但因果影响不同的模型？
• RQ2 使用反事实查询的主动学习能否有效使模型的因果影响与参考模型对齐？
• RQ3 通过反事实学习约束因果影响，是否能在不牺牲分布内准确率的前提下，提升对分布外数据的泛化能力？
• RQ4 与随机选择或非反事实选择相比，引导式特征选择在收敛速度和影响对齐方面表现如何？

主要发现

• 在所有三个数据集（adult、arrests、lending club）上，引导式主动学习方法在对齐因果影响与参考模型方面实现了更快的收敛速度。
• 该算法保持了分布内准确率，表现为在原始数据分布的保留集上测试误差稳定或略有改善。
• 分布外泛化能力得到提升，表现为即使数据集 $D$ 的部分样本未出现在训练集中，其在独立无偏数据集上的误差仍持续下降。
• 与引导式预言机相比，随机预言机基线收敛更慢，表明特征选择策略显著影响效率。
• 非反事实基线未能影响因果度量，证实反事实查询对于塑造因果影响至关重要。
• 该方法成功减少了基础模型与参考模型之间的因果影响差异，证明了因果行为的有效对齐。