[논문 리뷰] Strong Model Collapse

Elvis Dohmatob, Yunzhen Feng외 2명|arXiv (Cornell University)|2024. 10. 07.

Complex Systems and Time Series AnalysisEconomics, Econometrics and Finance인용 수 3

한 줄 요약

이 논문은 학습 데이터에 최소한의 합성 데이터(1% 미만)가 포함되어 있을지라도 기계 학습 모델에서 심각한 성능 저하인 '강한 모델 콜라프스'를 규명한다. 선형 회귀 및 무작위 투영 모델을 사용하여, 더 큰 모델은 해석 임계점에 도달하지 못하면 콜라프스를 악화시킬 수 있음을 증명한다. 이는 강건성이 향상될 수는 있으나, 합성 데이터 비율이 0에 수렴하지 않는 한 콜라프스는 점점 더 악화된다.

ABSTRACT

Within the scaling laws paradigm, which underpins the training of large neural networks like ChatGPT and Llama, we consider a supervised regression setting and establish the existance of a strong form of the model collapse phenomenon, a critical performance degradation due to synthetic data in the training corpus. Our results show that even the smallest fraction of synthetic data (e.g., as little as 1\% of the total training dataset) can still lead to model collapse: larger and larger training sets do not enhance performance. We further investigate whether increasing model size, an approach aligned with current trends in training large language models, exacerbates or mitigates model collapse. In a simplified regime where neural networks are approximated via random projections of tunable size, we both theoretically and empirically show that larger models can amplify model collapse. Interestingly, our theory also indicates that, beyond the interpolation threshold (which can be extremely high for very large datasets), larger models may mitigate the collapse, although they do not entirely prevent it. Our theoretical findings are empirically verified through experiments on language models and feed-forward neural networks for images.

연구 동기 및 목표

• 학습 데이터에 조그만 비율의 합성 데이터가 포함되어 있을 때 모델 콜라프스가 피할 수 없는지 조사하기 위해.
• 합성 데이터 오염 하에서 모델 크기를 증가시키는 것이 모델 콜라프스를 완화시키는지 또는 악화시키는지 규명하기 위해.
• 신경망 스케일링 법칙 프레임워크 내에서 일반화 실패가 데이터 분포 이동 하에서 발생하는 모델 콜라프스의 이론적 기반을 구축하기 위해.
• 모델 용량과 데이터 혼합 비율이 장기적인 모델 성능 저하에 미치는 영향을 분석하기 위해.
• 이미지 분류 네트워크와 언어 모델에서 이론적 예측을 실증적으로 검증하기 위해.

제안 방법

• 합성 데이터와 실재 데이터를 포함한 지도 학습 회귀 설정을 분석하여, 데이터 생성 분포와 모델이 학습한 분포를 모델링한다.
• 무작위 투영을 사용해 신경망 행동을 근사하고, 모델 용량을 매개변수화 비율 $\psi = m/n$로 표현한다.
• 일반화 오차를 연구하기 위해, 정규화 계수 $\lambda \to 0^+$ 일 때의 극한에서 핵심 양(예: $\tau$, $e$, $\chi$, $\kappa$)에 대한 固定点 방정식을 유도한다.
• 시험 오차를 모델 크기와 합성 데이터 비율의 함수로 특성화하기 위해 랜덤 매트릭스 이론과 선형 대수학 도구를 적용한다.
• 다양한 합성 데이터 비율과 모델 용량에서 모델 파라미터와 일반화 오차의 점근적 행동에 대한 해석적 표현을 유도한다.
• 이미지 데이터에서 피드포워드 네트워크와 미세조정된 LLM을 사용하여 이론적 결과를 실증적으로 검증하며, 합성 데이터 오염 하에서 시험 오차를 측정한다.

실험 결과

연구 질문

• RQ1 학습 데이터에 조그만 비율의 합성 데이터가 포함되어 있을 때 모델 콜라프스가 피할 수 없으며, 데이터 가중치 조정이나 혼합 전략으로 완화될 수 있는가?
• RQ2 합성 데이터 오염 하에서 모델 크기가 모델 콜라프스에 대한 민감도에 미치는 영향은 무엇인가?
• RQ3 모델 용량이 데이터 크기와 일치하는 해석 임계점(해석 임계점)이 합성 데이터에 대한 모델 강건성의 제도 전환을 나타내는가?
• RQ4 실세계 모델인 LLM과 CNN에서 일반화 오차에 대한 이론적 예측을 실증적으로 검증할 수 있는가?
• RQ5 합성 데이터 비율이 점점 사라지지 않는 한, 학습 데이터 크기가 증가할 때 모델 성능의 점근적 행동은 어떠한가?

주요 결과

• 학습 세트에 1%의 합성 데이터가 포함되어 있어도 강한 모델 콜라프스가 발생하며, 학습 데이터 크기를 늘려도 성능 향상이 이루어지지 않는다.
• 합성 데이터 분포가 실재 데이터 분포와 크게 다를 경우, 더 큰 모델일수록 모델 콜라프스를 악화시킨다.
• 해석 임계점을 초월하면 더 큰 모델은 일반화 능력 향상으로 인해 콜라프스를 완화할 수 있으나, 완전히 방지하지는 못한다.
• 이론적 분석 결과, 합성 데이터 비율이 점점 0에 수렴하지 않는 한 모델 콜라프스는 지속됨을 보여준다.
• 이미지 및 언어 모델에서의 실증 결과는 시험 오차가 합성 데이터 비율과 모델 크기에 비례하여 증가하며, 이는 이론적 예측과 일치함을 확인한다.
• 정규화되지 않은 극한에서 일반화 오차가 매개변수화 비율 $\psi = m/n$ 과 합성 데이터 및 실재 데이터 분포 간의 편차에 의해 결정됨을 드러낸다.