[论文解读] On the geometry of generalization and memorization in deep neural networks

Cory Stephenson, Suchismita Padhy+4 more|arXiv (Cornell University)|May 30, 2021

Neural Networks and Applications参考文献 36被引用 15

一句话总结

本文采用基于副本的平均场几何分析方法，研究深度神经网络中的记忆化与泛化现象，发现记忆化主要发生在深层网络中，其原因在于对象流形半径和维度的缩小。关键发现是，通过将最后一层的权重回滚至早期训练阶段，可恢复泛化能力，且靠近初始化时共享特征的存在使得早期泛化成为可能。

ABSTRACT

Understanding how large neural networks avoid memorizing training data is key to explaining their high generalization performance. To examine the structure of when and where memorization occurs in a deep network, we use a recently developed replica-based mean field theoretic geometric analysis method. We find that all layers preferentially learn from examples which share features, and link this behavior to generalization performance. Memorization predominately occurs in the deeper layers, due to decreasing object manifolds' radius and dimension, whereas early layers are minimally affected. This predicts that generalization can be restored by reverting the final few layer weights to earlier epochs before significant memorization occurred, which is confirmed by the experiments. Additionally, by studying generalization under different model sizes, we reveal the connection between the double descent phenomenon and the underlying model geometry. Finally, analytical analysis shows that networks avoid memorization early in training because close to initialization, the gradient contribution from permuted examples are small. These findings provide quantitative evidence for the structure of memorization across layers of a deep neural network, the drivers for such structure, and its connection to manifold geometric properties.

研究动机与目标

• 理解深度神经网络中记忆化的结构驱动因素，特别是其在各层中的发生位置与时间。
• 探究为何大容量网络在具备记忆随机标签能力的情况下仍能实现泛化。
• 解释对象流形几何特性（半径、维度、相关性）在塑造学习动态中的作用。
• 将泛化误差中的双下降现象与训练过程中流形维度的非单调变化联系起来。
• 证明早期泛化源于初始化附近噪声样本的梯度贡献极小，原因在于共享特征的存在。

提出的方法

• 采用基于副本的平均场理论几何探测方法，分析深层网络中各层表示的几何结构。
• 追踪训练轮次和模型规模变化下，对象流形半径、维度及中心相关性的变化。
• 利用几何探测方法测量同类别样本特征因共享线性特征而被优先学习的程度。
• 在真实数据和随机标签数据上训练网络，以隔离记忆化效应并比较学习动态。
• 在不同训练阶段对最后一层应用权重回滚，以测试泛化性能是否可恢复。
• 分析模型规模的影响，将泛化误差中的双下降现象与流形维度的非单调扩展联系起来。

实验结果

研究问题

• RQ1 记忆化在神经网络架构中的哪个部分占主导地位——浅层、中间层还是深层？
• RQ2 对象流形的哪些几何特性驱动了训练过程中记忆化的发生？
• RQ3 为何网络即使容量很高，仍能实现泛化，尤其是在初始化附近？
• RQ4 泛化误差中的双下降现象与表示空间中潜在几何变化之间有何关联？
• RQ5 在记忆化发生后，能否通过将最后一层权重回滚至早期训练状态来恢复泛化能力？

主要发现

• 记忆化集中在深层网络的最后几层，其驱动因素是随着深度增加，对象流形半径和维度的减小。
• 浅层受记忆化影响极小，原因在于其几何特性稳定且共享特征学习机制有效。
• 通过将最后几层的权重回滚至记忆化发生前的早期训练阶段，可恢复泛化能力。
• 在初始化附近，随机标签样本的梯度对权重更新的贡献极小，原因在于缺乏共享特征，从而实现早期泛化。
• 泛化误差中的双下降现象与流形维度随模型规模增加而呈现的非单调扩展直接相关。
• 流形维度表现出双下降特性，而半径和中心相关性保持单调变化，表明维度是双下降现象的关键几何驱动因素。