[논문 리뷰] Why Some Models Resist Unlearning: A Linear Stability Perspective

Wei-Kai Chang, Rajiv Khanna|arXiv (Cornell University)|2026. 02. 03.

Stochastic Gradient Optimization Techniques인용 수 0

한 줄 요약

이 논문은 기계 학습 제거를 위한 선형 안정성 프레임워크를 개발하고, 특정 데이터를 잊는 것이 수렴하거나 발산할지 예측하기 위한 데이터-일관성 지표를 도입하며, 기억화가 역설적으로 잊어버리기를 더 쉽게 만들 수 있음을 보인다. Retain/forget 상호작용을 결합하고 Hessian 분석과 CNN 히트맵으로 예측을 검증한다.

ABSTRACT

Machine unlearning, the ability to erase the effect of specific training samples without retraining from scratch, is critical for privacy, regulation, and efficiency. However, most progress in unlearning has been empirical, with little theoretical understanding of when and why unlearning works. We tackle this gap by framing unlearning through the lens of asymptotic linear stability to capture the interaction between optimization dynamics and data geometry. The key quantity in our analysis is data coherence which is the cross sample alignment of loss surface directions near the optimum. We decompose coherence along three axes: within the retain set, within the forget set, and between them, and prove tight stability thresholds that separate convergence from divergence. To further link data properties to forgettability, we study a two layer ReLU CNN under a signal plus noise model and show that stronger memorization makes forgetting easier: when the signal to noise ratio (SNR) is lower, cross sample alignment is weaker, reducing coherence and making unlearning easier; conversely, high SNR, highly aligned models resist unlearning. For empirical verification, we show that Hessian tests and CNN heatmaps align closely with the predicted boundary, mapping the stability frontier of gradient based unlearning as a function of batching, mixing, and data/model alignment. Our analysis is grounded in random matrix theory tools and provides the first principled account of the trade offs between memorization, coherence, and unlearning.

연구 동기 및 목표

• 기계 제거에 대한 원칙적 이론적 이해의 필요성을 경험적 방법을 넘어 제시한다.
• 사전 학습된 최소값 주위에 선형 안정성 프레임워크를 개발하여 forget dynamics를 분석한다.
• retain/forget 세트 간의 상호작용을 정량화하는 코히어런스 기반 지표를 도입한다.
• 데이터 모델에서 신호-잡음 데이터 모델을 통해 기억화/기억화 강도가 forgettability와의 연관성을 제시한다.
• 그래디언트 기반 제거가 수렴하는지 발산하는지에 대한 이론적 임계값과 실증 검증을 제공한다.

제안 방법

• 최적점 w* 주위에서 SGD 역학을 선형근사하고 업데이트를 w_{k+1} = J_k w_k로 모델링하며 무작위 혼합 연산자 J_k를 사용한다.
• 데이터를 retain와 forget 세트로 분해하고 retained 데이터에 대한 하강과 forgotten 데이터에 대한 상승을 수행하는 혼합 업데이트 규칙을 도출한다.
• 교차 세트 곡률 상호작용과 정렬을 포착하기 위해 mix-Hessian D와 mix-coherence S를 정의한다.
• coherence sigma와 mix-Hessian 고유값 측면에서 안정성 임계값(발산 및 수렴 조건)을 확립한다.
• 신호-잡음 데이터 모델에서 2층 ReLU CNN을 분석하여 기억화(낮은 SNR)가 forgettability를 더 쉽게 만드는지 관계를 제시한다.
• Hessian 기반 검정과 CNN 히트맵을 통한 실증 검증으로 예측된 안정성 프런티어와 일치함을 확인한다.

실험 결과

연구 질문

• RQ1 그래디언트 기반 제거가 사전 학습된 최소값 근처에서 수렴하거나 발산하는 정확한 조건은 무엇인가?
• RQ2 retain 데이터와 forget 데이터 간의 상호작용(retain/forget 코히어런스)이 제거의 안정성에 어떤 영향을 미치는가?
• RQ3 데이터의 기하학과 코히어런스가 모델의 기억 경향성과 forgettability에 어떻게 관련되는가?
• RQ4 배치 크기, forgetting 강도, 혼합 등 알고리즘적 선택이 제거의 안정성 경계에 어떤 영향을 주는가?
• RQ5 경험적 지표(Hessian 스펙트럼, forget/retain 히트맵)가 제안된 안정성 프런티어를 입증하는가?

주요 결과

• 데이터-코히어런스와 mix-Hessian 고유값에 의해 수렴(안정)과 발산(불안정)을 구분하는 안정성 프런티어가 확립된다.
• mix-Hessian 고유값이 코히어런스 의존 임계값을 초과하면 발산이 발생하고, 그에 맞는 한계값 아래서는 수렴이 가능하다.
• 기억화가 강해질수록(낮은 SNR) 샘플 간 기울기 코히어런스가 감소하여 안정적인 forget의 영역이 넓어지고 제거가 더 쉬워진다.
• retain와 forget 방향 사이의 높은 코히어런스는 업데이트 방향을 정렬시켜 제거를 저항하게 하고 원래 최소값에서 벗어나기를 어렵게 한다.
• 해당 분석은 Hessian 테스트와 CNN 히트맵으로 배치 크기와 데이터/모델 정렬에 따라 예측된 경계와 일치하는 실증 결과를 보여준다.
• 이 연구는 기억화, 데이터 기하학, 제거 역학 간의 원칙적 연결고리를 제공한다.