[논문 리뷰] Fast Machine Unlearning Without Retraining Through Selective Synaptic Dampening

Jack Foster, Stefan Schoepf외 1명|arXiv (Cornell University)|2023. 08. 15.

Advanced Neural Network ApplicationsComputer Science인용 수 3

한 줄 요약

이 논문은 재학습이 필요 없고, 후행적으로 적용되는 기계적 기억 삭제 방법인 선택적 시냅스 감쇠(Selective Synaptic Dampening, SSD)를 제안한다. 이 방법은 잊혀진 데이터에 비례적으로 중요도가 높은 모델 파라미터를 피셔 정보 행렬(Fisher Information Matrix, FIM) 분석을 통해 선택적으로 감쇠시킨다. SSD는 재학습 기반 최신 기술과 경쟁 가능한 성능을 달성하면서도, 재학습에 비해 수개의 주기 빠르며 원본 훈련 데이터의 장기 저장이 필요하지 않다.

ABSTRACT

Machine unlearning, the ability for a machine learning model to forget, is becoming increasingly important to comply with data privacy regulations, as well as to remove harmful, manipulated, or outdated information. The key challenge lies in forgetting specific information while protecting model performance on the remaining data. While current state-of-the-art methods perform well, they typically require some level of retraining over the retained data, in order to protect or restore model performance. This adds computational overhead and mandates that the training data remain available and accessible, which may not be feasible. In contrast, other methods employ a retrain-free paradigm, however, these approaches are prohibitively computationally expensive and do not perform on par with their retrain-based counterparts. We present Selective Synaptic Dampening (SSD), a novel two-step, post hoc, retrain-free approach to machine unlearning which is fast, performant, and does not require long-term storage of the training data. First, SSD uses the Fisher information matrix of the training and forgetting data to select parameters that are disproportionately important to the forget set. Second, SSD induces forgetting by dampening these parameters proportional to their relative importance to the forget set with respect to the wider training data. We evaluate our method against several existing unlearning methods in a range of experiments using ResNet18 and Vision Transformer. Results show that the performance of SSD is competitive with retrain-based post hoc methods, demonstrating the viability of retrain-free post hoc unlearning approaches.

연구 동기 및 목표

• GDPR와 같은 데이터 개인정보 보호 규정 준수를 위한 기계적 기억 삭제의 증가하는 수요를 해결하기 위해.
• 초기 처리 이후 원본 훈련 데이터에 접근할 수 없더라도, 유지된 데이터에 대한 모델 성능을 유지하는 재학습이 필요 없는 기억 삭제 방법을 개발하기 위해.
• 잊혀진 샘플에 가장 특화된 파라미터만 식별하고 선택적으로 수정하여 일반화 능력에 미치는 영향를 최소화하기 위해.
• 재학습 기반 방법과 동등한 성능를 달성하면서도, 전체 재학습의 저장 및 계산 오버헤드를 피하면서 기억 삭제의 효율성(속도)과 성능를 동시에 확보하기 위해.

제안 방법

• 잊혀진 데이터와 유지된 데이터에 대해 피셔 정보 행렬(FIM)의 대각선을 계산하여 파라미터 중요도를 정량화한다.
• 유지된 데이터보다 잊혀진 데이터에 더 크게 기여하는 파라미터를 식별하여, 이는 특화된 파라미터임을 나타낸다.
• 이러한 특화된 파라미터는 잊혀진 데이터 집합에서의 상대적 중요도에 비례하여 감쇠되며, 이 감쇠 요소는 하이퍼파라미터 α와 λ에 의해 제어된다.
• 이 방법은 후행적으로 적용되며, FIM 계산을 위해 훈련 데이터에 한 번만 접근하면 되고, 이후에는 데이터를 버릴 수 있다.
• 과잉 파rameter화된 모델이 훈련 데이터를 기억하므로, 기억된 파라미터를 대상으로 함으로써 선택적 기억 삭제가 가능하다는 원리를 활용한다.
• 감쇠 과정은 파라미터의 소수의 부분집합에만 적용되므로, 유지된 데이터에 대한 모델 일관성과 일반화 능력이 유지된다.

실험 결과

연구 질문

• RQ1 재학습이 필요 없는 기억 삭제 방법이 재학습 기반 최신 기술과 동등한 성능을 달성할 수 있는가?
• RQ2 피셔 정보 기반 선택적 파라미터 감쇠가 유지된 데이터에 대한 모델 성능을 떨어뜨리지 않고 효과적으로 기억 삭제를 유도할 수 있는가?
• RQ3 FIM 계산 이후 원본 훈련 데이터를 저장하지 않고도 빠른 기억 삭제를 달성할 수 있는가?
• RQ4 다양한 기억 삭제 시나리오에서 SSD의 성능이 기존의 재학습이 필요 없는 방법과 재학습 기반 방법과 비교해 어떻게 되는가?
• RQ5 하이퍼파라미터 선택(α와 λ)이 반복적인 기억 삭제 요청에 따른 기억 삭제 효과성과 모델 성능 저하에 어떤 영향을 미치는가?

주요 결과

• CIFAR100에서 SSD는 기준 ResNet의 93% 및 ViT의 94%였던 멤버십 유추 공격(MIA) 정확도를 약 2%로 감소시켜, 전체 재학습 성능과 동일하게 만들었다.
• ResNet에서는 기억 삭제 후 유지된 데이터 집합(Dr)의 정확도가 단지 2% 감소했고, ViT는 거의 변화가 없었으며, 이는 뛰어난 성능 유지 능력을 시사한다.
• SSD는 이전의 재학습이 필요 없는 방법인 Fisher Forgetting보다 속도 면에서 수개의 주기 빠르게 성능을 뛰어넘으면서도 더 뛰어난 기억 삭제 성능를 달성했다.
• CIFAR20의 서브클래스 기억 삭제 시나리오에서 SSD는 재학습된 모델과 동등한 MIA 및 Dr 성능를 달성했고, Amnesiac 및 Bad Teacher와 같은 방법들과는 달리 인위적으로 낮은 MIA 점수를 보이지 않았다.
• CIFAR10의 무작위 샘플 기억 삭제 시나리오에서 SSD는 ResNet과 ViT 모두에서 재학습 성능과 동등한 속도와 효과를 보였다.
• 모든 벤치마크에서 전체 재학습 모델과의 유사도 측면에서 SSD가 평균적으로 가장 뛰어난 성능를 보였다.