[论文解读] Continual Feature Selection: Spurious Features in Continual Learning

Timothée Lesort|arXiv (Cornell University)|Mar 2, 2022

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

本文研究持续学习中的虚假特征和局部虚假特征，表明由于数据分布变化和数据访问受限，模型往往依赖于非泛化的特征。研究发现性能下降不仅源于灾难性遗忘，还源于对局部虚假特征的过拟合，提出基于回放的方法以缓解此问题。

ABSTRACT

Continual Learning (CL) is the research field addressing learning without forgetting when the data distribution is not static. This paper studies spurious features' influence on continual learning algorithms. We show that continual learning algorithms solve tasks by selecting features that are not generalizable. Our experiments highlight that continual learning algorithms face two related problems: (1) spurious features and (2) local spurious features. The first one is due to a covariate shift between training and testing data, while the second is due to the limited access to data at each training step. We study (1) through a consistent set of continual learning experiments varying spurious correlation amount and data distribution support. We show that (2) is a major cause of performance decrease in continual learning along with catastrophic forgetting. This paper presents a different way of understanding performance decrease in continual learning by highlighting the influence of (local) spurious features in algorithms capabilities.

研究动机与目标

• 研究虚假特征（即特征与标签之间的相关性无法泛化）对持续学习算法的影响。
• 识别并分析持续学习中一个新问题：局部虚假特征，其源于每个训练步骤中数据不完整导致。
• 评估现有持续学习方法（尤其是回放方法）是否能有效缓解虚假特征和局部虚假特征的负面影响。
• 提出一种专为持续学习设计的改进版分布外（OOD）泛化方法，并在新基准上评估其性能。
• 将持续学习中的性能退化重新解释为源于特征选择错误，而不仅仅是灾难性遗忘。

提出的方法

• 提出一个新的持续学习基准——SpuriousCIFAR2，受彩色MNIST启发，以系统研究在受控数据分布变化下的虚假相关性。
• 采用二分类设置，以颜色作为虚假特征，模拟训练数据与测试数据分布之间的协变量偏移。
• 引入一种为持续学习量身定制的改进版OOD泛化方法，旨在学习不变的、非虚假的特征。
• 使用单头和多头分类器设置比较性能，以隔离特征选择对泛化的影响。
• 在有无权重归一化的情况下，使用线性层和平均层分类器，评估特征选择偏差或范数失衡是否解释了性能差距。
• 应用基于回放的持续学习方法，以在各任务间模拟独立同分布（i.i.i.d.）的数据分布，从而降低学习局部虚假特征的风险。

实验结果

研究问题

• RQ1 持续学习算法在多大程度上因训练与测试数据之间的协变量偏移而对虚假特征过拟合？
• RQ2 局部虚假特征（即在单个任务内与标签相关，但在整个场景中不相关）的存在如何影响持续学习性能？
• RQ3 标准的持续学习方法（如回放）能否有效缓解虚假特征和局部虚假特征的负面影响？
• RQ4 持续学习中的性能退化主要是由灾难性遗忘引起，还是糟糕的特征选择决策（如依赖局部虚假特征）也起到了关键作用？
• RQ5 能否将OOD泛化技术进行适配并有效应用于持续学习，以提升对虚假特征的鲁棒性？

主要发现

• 持续学习模型经常依赖于在训练数据中与标签相关但在测试数据中不相关的虚假特征，导致泛化能力差。
• 在线性层上，单头与多头分类器之间的性能差距显著大于在平均层上，表明性能下降主要源于特征选择偏差，而非模型架构。
• 预训练模型无法缓解局部虚假特征问题，表明强大的特征提取器本身不足以实现鲁棒的持续学习。
• 回放方法通过在各任务间模拟i.i.d.数据分布，有效降低了学习局部虚假特征的风险。
• 持续学习中的性能退化不仅源于灾难性遗忘，还显著被对局部虚假特征的过拟合所加剧。
• 本研究将局部虚假特征识别为持续学习中的核心挑战，与灾难性遗忘同等重要，并呼吁开发更注重特征选择而非单纯记忆保留的新方法。