[论文解读] On Feature Learning in the Presence of Spurious Correlations

Pavel Izmailov, Polina Kirichenko+2 more|arXiv (Cornell University)|Oct 20, 2022

Industrial Vision Systems and Defect Detection被引用 23

一句话总结

该论文表明，在仅重新训练最后一层（DFR）后，标准 ERM 学习的特征通常也足以实现对最坏组别的强性能；而组鲁棒性方法的改进在很大程度上来自于对最后一层的加权更好，而不是核心特征表示的改进。

ABSTRACT

Deep classifiers are known to rely on spurious features $\unicode{x2013}$ patterns which are correlated with the target on the training data but not inherently relevant to the learning problem, such as the image backgrounds when classifying the foregrounds. In this paper we evaluate the amount of information about the core (non-spurious) features that can be decoded from the representations learned by standard empirical risk minimization (ERM) and specialized group robustness training. Following recent work on Deep Feature Reweighting (DFR), we evaluate the feature representations by re-training the last layer of the model on a held-out set where the spurious correlation is broken. On multiple vision and NLP problems, we show that the features learned by simple ERM are highly competitive with the features learned by specialized group robustness methods targeted at reducing the effect of spurious correlations. Moreover, we show that the quality of learned feature representations is greatly affected by the design decisions beyond the training method, such as the model architecture and pre-training strategy. On the other hand, we find that strong regularization is not necessary for learning high quality feature representations. Finally, using insights from our analysis, we significantly improve upon the best results reported in the literature on the popular Waterbirds, CelebA hair color prediction and WILDS-FMOW problems, achieving 97%, 92% and 50% worst-group accuracies, respectively.

研究动机与目标

• 研究在受到伪相关性影响的表示中，可解码的核心信息量（非伪相关信息）有多少。
• 评估最后一层重新训练（DFR）是否弥合了 ERM 与组鲁棒性方法之间的性能差距。
• 确定在存在伪相关性时，模型架构、预训练策略和正则化如何影响特征学习。
• 评估 group DRO 及相关方法的改进是来自更好的特征表示，还是来自对特征的重新加权。

提出的方法

• 使用 Deep Feature Reweighting (DFR) 仅通过在一个剔除伪相关性打破的保留集上重新训练最后一层，来评估核心特征的可解码性。
• 在多种视觉与自然语言处理任务中比较 ERM、重加权（RWG/RWY）和 group DRO。
• 分析架构、预训练和正则化对学习到的特征质量的影响。
• 衡量 worst-group accuracy (WGA) 与 DFR WGA，以区分基础模型性能与特征质量。
• 通过 s-DFR（预测伪相关属性）来评估伪相关特征与核心特征的可解码性，作为互补评估。

实验结果

研究问题

• RQ1 在受伪相关性影响的表示中，核心（非伪相关）特征的可解码性有多高？
• RQ2 组鲁棒性方法是改进特征表示，还是主要对最后一层特征进行加权以提升最坏组别表现？
• RQ3 在伪相关性下，架构、预训练和正则化如何影响学习到的特征质量？
• RQ4 在不重新训练整个模型的情况下，最后一层重新训练（DFR）能否在伪相关基准问题上恢复到最先进的性能？

主要发现

• 将 DFR 应用于 ERM 特征，在若干基准数据集上获得与 group robustness 方法竞争力相当或几乎相同的 worst-group 性能。
• group DRO 及相关方法的改进在很大程度上来自于对最后一层线性层的更好加权，而不是学习到更优的核心特征。
• 在应用 DFR 后，更强的分布内（均值）准确率通常与更好的 worst-group 性能相关，无论架构和预训练 regime。
• 预训练策略显著影响特征质量；仅靠强正则化并不能始终改善表示。
• 在使用强大预训练时，在目标数据上的微调收益有限；大规模预训练甚至在不进行目标领域微调的情况下也能获得高的 DFR WGA（例如，Waterbirds 使用 ImageNet22k 预训练的 ConvNext）。
• 在 Waterbirds、CelebA 和 WILDS-FMOW 上，采用强预训练模型的 DFR 达到新的高 WGA 分数（例如 Waterbirds 97.2%，CelebA 92.2%）。