[논문 리뷰] Few-Shot Unlearning by Model Inversion

Young-Sik Yoon, Jinhwan Nam외 4명|arXiv (Cornell University)|2022. 05. 31.

Advanced Neural Network Applications인용 수 4

한 줄 요약

이 논문은 제한된 대상 샘플과 훈련된 모델에서 모델 역행을 사용하여 프록시 훈련 데이터를 재구성함으로써, 전체 훈련 데이터에 접근할 수 없는 상황에서도 효과적인 언리닝을 가능하게 하는 few-shot 언리닝 프레임워크를 제안한다. 표준 및 few-shot 언리닝에서 최신 기술을 능가하며, 맞춤형 재학습 전략을 통해 언리닝 의도를 명시적으로 모델링함으로써 개인정보 보호, 잘못 레이블링 수정, 서브클래스 언리닝에서 뛰어난 성능을 달성한다.

ABSTRACT

We consider a practical scenario of machine unlearning to erase a target dataset, which causes unexpected behavior from the trained model. The target dataset is often assumed to be fully identifiable in a standard unlearning scenario. Such a flawless identification, however, is almost impossible if the training dataset is inaccessible at the time of unlearning. Unlike previous approaches requiring a complete set of targets, we consider few-shot unlearning scenario when only a few samples of target data are available. To this end, we formulate the few-shot unlearning problem specifying intentions behind the unlearning request (e.g., purely unlearning, mislabel correction, privacy protection), and we devise a straightforward framework that (i) retrieves a proxy of the training data via model inversion fully exploiting information available in the context of unlearning; (ii) adjusts the proxy according to the unlearning intention; and (iii) updates the model with the adjusted proxy. We demonstrate that our method using only a subset of target data can outperform the state-of-the-art unlearning methods even with a complete indication of target data.

연구 동기 및 목표

• 전체 데이터셋에 접근할 수 없고, 대상 데이터의 몇 개 샘플만 제공되는 실용적 상황에서 기계 언리닝의 도전 과제를 해결한다.
• 단순한 데이터 제거를 넘어서, 개인정보 보호, 잘못 레이블링 수정, 표준 언리닝과 같은 특정 의도를 고려한 언리닝을 정의한다.
• 모델 역행을 통해 프록시 훈련 데이터를 추출하고, 언리닝 의도에 따라 필터링한 후 해당 데이터로 모델을 미세조정하는 통합 프레임워크를 개발한다.
• 이전 방법이 전체 훈련 데이터에 접근하지 못하는 한계가 있는 바, MNIST에서 '7'만을 특정 서브클래스로 언리닝하는 것을 가능하게 한다.
• 명시적인 언리닝 의도 모델링이 일반적인 언리닝 접근 방식보다 성능을 향상시키며, 특히 few-shot 환경에서 두드러진다.

제안 방법

• 대상 샘플, 훈련된 모델, 도메인 사전 지식(예: 데이터 분포, 증강 패턴 등)을 사용하여 모델 역행을 수행해 원래 훈련 데이터의 프록시를 생성한다.
• 재구성 품질을 향상시키기 위해, 배치 정규화 레이어가 없는 경우에도 대상 유사 샘플의 재구성을 우선시하는 새로운 손실 항목 ℓ_tar를 역행 과정에 도입한다.
• MMD 점수를 기반으로, 역행된 프록시 데이터를 '지운' (D_e) 및 '유지' (D_r) 집합으로 분류하기 위해 무릎점 탐지 기법을 적용하여 임계값을 자동으로 결정한다.
• 언리닝 의도에 따라 증강된 대상 세트의 레이블을 재지정함으로써, 다양한 재학습 전략(Ours_std, Ours_unt, Ours_neg, Ours_cor)을 설계한다: 표준 언리닝, 개인정보 보호, 음성 샘플링, 잘못 레이블링 수정.
• 필터링된 프록시 데이터를 사용해 모델를 미세조정함으로써, 비대상 데이터에 대한 일반화 능력을 유지하면서도 언리닝 목표를 충족시킨다.
• 특히 few-shot 환경에서 강건성과 일반화 능력을 향상시키기 위해, 역행 및 재학습 과정에서 데이터 증강을 활용한다.

실험 결과

연구 질문

• RQ1 전체 데이터셋이 아닌, 대상 데이터의 몇 개 샘플만 제공될 때 효과적인 언리닝이 가능할 수 있는가?
• RQ2 단일 프레임워크 내에서 개인정보 보호, 잘못 레이블링 수정, 표준 데이터 제거와 같은 다양한 의도에 맞게 언리닝을 맞춤화할 수 있는가?
• RQ3 모델 역행이 제한된 정보에서 타당한 프록시 훈련 데이터를 재구성하는 데 있어 언리닝 맥락에 효과적으로 적응할 수 있는가?
• RQ4 전체 훈련 데이터에 접근하지 못하는 상황에서 특정 서브클래스(예: MNIST의 '7')만을 언리닝할 수 있는가?
• RQ5 일반적인 언리닝 방법과 비교해 명시적인 언리닝 의도 모델링이 성능 향상에 기여하는가?

주요 결과

• 제안된 방법(Ours_std)은 표준 언리닝에서 유지된 데이터셋(D_r)에서 99.7%의 정확도, 지운 데이터셋(D_e)에서 82.5%의 정확도를 달성하며, 이는 이전 SOTA 방법을 능가한다.
• 개인정보 보호를 위한 Ours_unt의 경우, 소속성 인식 공격의 성공률을 4.2% ± 1.0으로 낮춰 기존 기반 방법의 23.8%보다 유의미하게 낮춘다.
• 잘못 레이블링 수정을 위한 Ours_cor의 경우, 지운 데이터셋(D_e)에서 100.0%의 정확도를 기록하며, 노이즈가 많은 MNIST 환경에서 잘못 레이블된 '7'을 정확히 '7'으로 수정하는 데 효과적임을 입증한다.
• 제거 분석 결과, 새로운 ℓ_tar 손실 항목이 성능 향상에 가장 기여하며, 배치 정규화가 없는 경우 기존 손실 항목(ℓ_bn, ℓ_aug)보다 뛰어나게 작용한다.
• 기존 방법이 전체 훈련 데이터에 접근하지 못하는 한계가 있는 바, MNIST에서 특정 서브클래스(예: '7')를 성공적으로 언리닝하는 데 성공했다.
• 단지 대상 데이터의 3%만으로도 성능이 유지되며, 예를 들어 Ours_neg의 경우 D_r에서 100.0%의 정확도, D_e에서 18.8% ± 2.5의 정확도를 기록함으로써, few-shot 환경에서도 뛰어난 강건성을 입증한다.