[论文解读] Strong Model Collapse

Elvis Dohmatob, Yunzhen Feng+2 more|arXiv (Cornell University)|Oct 7, 2024

Complex Systems and Time Series AnalysisEconomics, Econometrics and Finance被引用 3

一句话总结

本文确立了'强模型崩溃'——即使在训练集中仅包含极少量合成数据（低至1%）的情况下，机器学习模型仍会出现严重的性能退化。通过线性回归与随机投影模型，证明了当模型规模增大时，若未超过插值阈值，崩溃现象可能加剧；而一旦超过该阈值，鲁棒性可能提升，但除非合成数据比例趋于零，否则崩溃现象在渐近下依然持续。

ABSTRACT

Within the scaling laws paradigm, which underpins the training of large neural networks like ChatGPT and Llama, we consider a supervised regression setting and establish the existance of a strong form of the model collapse phenomenon, a critical performance degradation due to synthetic data in the training corpus. Our results show that even the smallest fraction of synthetic data (e.g., as little as 1\% of the total training dataset) can still lead to model collapse: larger and larger training sets do not enhance performance. We further investigate whether increasing model size, an approach aligned with current trends in training large language models, exacerbates or mitigates model collapse. In a simplified regime where neural networks are approximated via random projections of tunable size, we both theoretically and empirically show that larger models can amplify model collapse. Interestingly, our theory also indicates that, beyond the interpolation threshold (which can be extremely high for very large datasets), larger models may mitigate the collapse, although they do not entirely prevent it. Our theoretical findings are empirically verified through experiments on language models and feed-forward neural networks for images.

研究动机与目标

• 研究当训练数据中仅含极小比例合成数据时，模型崩溃是否不可避免。
• 确定在合成数据污染条件下，增大模型规模是否能缓解或加剧模型崩溃。
• 在神经网络缩放定律范式下，为模型崩溃建立理论基础，重点关注数据分布偏移下的泛化失败。
• 分析模型容量与数据混合比例在决定长期性能退化中的作用。
• 通过在语言模型与图像分类网络上的实证评估，验证理论预测。

提出的方法

• 分析包含合成数据与真实数据的监督回归设置，建模数据生成分布与模型学习分布。
• 使用随机投影近似神经网络行为，通过参数化率 $\psi = m/n$ 表征模型容量。
• 在正则化参数趋于零（$\lambda \to 0^+$）的极限下，推导关键量（如 $\tau$、$e$、$\chi$、$\kappa$）的不动点方程，以研究泛化误差。
• 应用随机矩阵理论与线性代数工具，将测试误差表征为模型规模与合成数据比例的函数。
• 推导在不同合成数据比例与模型容量下，模型参数与泛化误差的极限行为的解析表达式。
• 通过在图像数据上的前馈网络与微调后的大型语言模型进行实证验证，测量在合成数据污染下的测试误差。

实验结果

研究问题

• RQ1 当训练数据中仅含少量合成数据时，模型崩溃是否不可避免？能否通过数据加权或混合策略缓解？
• RQ2 在合成数据污染条件下，模型规模如何影响对模型崩溃的敏感性？
• RQ3 插值阈值（即模型容量与数据规模匹配）是否标志着模型对合成数据鲁棒性发生范式转变的临界点？
• RQ4 在真实世界模型（如大型语言模型与卷积神经网络）中，能否实证验证关于泛化误差的理论预测？
• RQ5 当训练数据规模持续增长时，若合成数据以非趋于零的比例存在，模型性能的渐近行为如何？

主要发现

• 即使训练集中仅含1%的合成数据，也会引发强模型崩溃，表现为增加训练数据规模也无法改善性能。
• 当合成数据分布与真实数据分布显著偏离时，更大的模型会加剧模型崩溃。
• 超过插值阈值后，更大的模型可能通过改善泛化能力而缓解崩溃，但无法完全阻止其发生。
• 理论分析表明，除非合成数据比例渐近趋于零，否则模型崩溃将持续存在。
• 在图像与语言模型上的实证结果表明，测试误差随合成数据比例与模型规模的增加而上升，与理论预测一致。
• 无正则化极限揭示，泛化误差的关键取决于参数化率 $\psi = m/n$ 以及合成数据与真实数据分布之间的偏差。