[论文解读] Learning sparse features can lead to overfitting in neural networks

Leonardo Petrini, Francesco Cagnetta+2 more|arXiv (Cornell University)|Jun 24, 2022

Domain Adaptation and Few-Shot Learning被引用 6

一句话总结

本文表明，在过参数化的神经网络中，特征学习可能导致过拟合，这是由于稀疏表征的出现，从而降低了预测器的平滑性并损害了泛化性能。相比之下，通过NTK实现的懒训练（lazy training）能产生更平滑、更鲁棒的预测器，尤其在需要对平滑输入变换（如图像形变）保持不变性的任务中表现更优。

ABSTRACT

It is widely believed that the success of deep networks lies in their ability to learn a meaningful representation of the features of the data. Yet, understanding when and how this feature learning improves performance remains a challenge: for example, it is beneficial for modern architectures trained to classify images, whereas it is detrimental for fully-connected networks trained for the same task on the same data. Here we propose an explanation for this puzzle, by showing that feature learning can perform worse than lazy training (via random feature kernel or the NTK) as the former can lead to a sparser neural representation. Although sparsity is known to be essential for learning anisotropic data, it is detrimental when the target function is constant or smooth along certain directions of input space. We illustrate this phenomenon in two settings: (i) regression of Gaussian random functions on the d-dimensional unit sphere and (ii) classification of benchmark datasets of images. For (i), we compute the scaling of the generalization error with number of training points, and show that methods that do not learn features generalize better, even when the dimension of the input space is large. For (ii), we show empirically that learning features can indeed lead to sparse and thereby less smooth representations of the image predictors. This fact is plausibly responsible for deteriorating the performance, which is known to be correlated with smoothness along diffeomorphisms.

研究动机与目标

• 理解为何在图像分类任务中，特征学习有时会损害性能，尽管它在其他任务中是有益的。
• 研究表征稀疏性在泛化误差中的作用，特别是在高维输入空间中。
• 解释一个悖论：为何特征学习在图像数据集上会失败，尽管它在简单回归任务中取得了成功。
• 阐明特征学习与懒训练在平滑性和对输入变换不变性方面的隐式偏差。
• 证明神经表征中的稀疏性会降低对微分同胚（diffeomorphisms）和平滑形变的鲁棒性，从而导致泛化性能下降。

提出的方法

• 在d维单位球面上，使用无限宽的全连接网络，在懒训练（NTK）和特征学习（均场）两种范式下研究随机光滑函数的回归。
• 利用NTK极限建模懒训练，利用均场极限建模特征学习，同时进行理论分析和数值模拟。
• 分析解的支撑结构，表明特征学习会产生原子性（稀疏）表征，仅有少量神经元被激活。
• 采用α-trick方法模拟均场极限，并在无显式正则化的情况下，通过实证验证训练网络中的稀疏性。
• 通过预测器对微分同胚和平移的敏感性来量化其平滑性，并比较懒训练与特征学习范式下的表现。
• 使用微分同胚的最大熵模型来模拟真实的图像形变，并评估预测器的鲁棒性。

实验结果

研究问题

• RQ1 为何在图像分类任务中，特征学习会降低性能，尽管它在简单回归任务中能提升性能？
• RQ2 神经表征中的稀疏性如何影响预测器的平滑性和泛化能力？
• RQ3 在高维输入空间中，懒训练范式（NTK）相较于特征学习，能在多大程度上产生更平滑的预测器？
• RQ4 不同训练范式在对平滑输入变换（如图像形变或平移）的敏感性方面有何差异？
• RQ5 特征学习与懒训练之间的性能差距是否可由其对无关输入扰动的敏感性差异来解释？

主要发现

• 特征学习导致更稀疏的表征，即使没有显式正则化，训练后也只有极少数神经元被激活。
• 在球面上的回归任务中，NTK（懒训练）范式比特征学习具有更好的泛化性能，尤其在目标函数为光滑时表现更优。
• 泛化误差在NTK范式下的缩放行为更优，而特征学习范式在输入维度增加时表现出更差的缩放特性。
• 特征学习产生更不平滑的预测器，使其对微分同胚和平滑形变更敏感，这与性能下降密切相关。
• 实证结果表明，特征学习导致的表征对无关输入变化（如边界像素损坏）的不变性更差，而懒训练能更好地保持不变性。
• 特征学习与懒训练之间的性能差距并非由对边界噪声的敏感性造成，而是由对微分同胚的敏感性所致，而后者在图像分类任务中更具相关性。