[논문 리뷰] Can Bad Teaching Induce Forgetting? Unlearning in Deep Networks using an Incompetent Teacher

Vikram S Chundawat, Ayush K Tarun외 2명|arXiv (Cornell University)|2022. 05. 17.

Domain Adaptation and Few-Shot Learning인용 수 7

한 줄 요약

이 논문은 데이터 무단 사용 방지를 위한 기계 학습에서의 기억 삭제를 위해 기존의 전문 교사와 무능한 교사의 조합을 활용한 새로운 교사-학생 정규화 프레임워크를 제안한다. 이 방법은 깊이 신경망에서 지식을 선택적으로 전달하고 특정 데이터의 기억을 해소함으로써, 재학습이 필요 없는 아키텍처 독립적인 기억 삭제를 가능하게 하며, 새로운 재학습 모델이 없는 평가 지표(ZRF)를 사용해 높은 성능을 달성하고, 재학습 대비 최대 70배 빠른 속도를 제공한다.

ABSTRACT

Machine unlearning has become an important area of research due to an increasing need for machine learning (ML) applications to comply with the emerging data privacy regulations. It facilitates the provision for removal of certain set or class of data from an already trained ML model without requiring retraining from scratch. Recently, several efforts have been put in to make unlearning to be effective and efficient. We propose a novel machine unlearning method by exploring the utility of competent and incompetent teachers in a student-teacher framework to induce forgetfulness. The knowledge from the competent and incompetent teachers is selectively transferred to the student to obtain a model that doesn't contain any information about the forget data. We experimentally show that this method generalizes well, is fast and effective. Furthermore, we introduce the zero retrain forgetting (ZRF) metric to evaluate any unlearning method. Unlike the existing unlearning metrics, the ZRF score does not depend on the availability of the expensive retrained model. This makes it useful for analysis of the unlearned model after deployment as well. We present results of experiments conducted for random subset forgetting and class forgetting on various deep networks and across different application domains.~Source code is at: https://github.com/vikram2000b/bad-teaching-unlearning

연구 동기 및 목표

• GDPR 및 CCPA와 같은 데이터 개인정보 보호 규정 준수를 위한 기계 학습에서의 기억 삭제 수요 증가에 대응하기 위해.
• 학습 절차에 제약을 두지 않고도 작동하는 기억 삭제 방법을 개발하여 추가 모델이나 특정 최적화 알고리즘에 의존하지 않도록 하기 위해.
• 재학습된 모델을 기준으로 하지 않고도 기억 삭제 효과를 평가할 수 있도록 하여, 배포 후 분석이 가능하게 하기 위해.
• 기억 삭제 과정에서 효율성과 일반화 능력을 향상시키면서 개인정보 泄露 위험을 최소화하기 위해.
• 다양한 딥러닝 아키텍처와 멀티미디어 응용 분야에 광범위하게 적용 가능한 방법을 보여주기 위해.

제안 방법

• 이 방법은 두 명의 교사(전문 교사와 무능한 교사)를 활용하는 학생-교사 정규화 프레임워크를 사용한다. 전문 교사는 모든 데이터로 훈련된 모델이며, 무능한 교사는 무작위로 초기화되거나 단순화된 모델이다.
• 지식은 두 교사로부터 학생에게 선택적으로 전달되며, 무능한 교사는 잊고자 하는 샘플에 대한 예측을 왜곡함으로써 목표 데이터의 기억을 해소하도록 유도한다.
• 무능한 교사는 작은 무작위로 초기화된 신경망 또는 균일한 확률을 부여하고 가우시안 노이즈를 추가하는 무작위 예측 생성기로 구현된다.
• 학생 네트워크는 두 교사의 지식을 통합한 정규화 손실을 사용하여 훈련되며, 무능한 교사의 출력이 잊고자 하는 데이터의 기억을 억제한다.
• 이 프레임워크는 아키텍처 독립적이며, CNN, 비전 트랜스포머, LSTMs 등 다양한 모델에 적용 가능하며, 원래 훈련 과정에 대한 수정이 필요 없다.
• 재학습된 모델이 필요 없는 새로운 평가 지표인 Zero Retrain Forgetting (ZRF)를 도입하여 기억 삭제 성능을 평가한다.

실험 결과

연구 질문

• RQ1 무능한 교사가 재학습 없이도 학생 네트워크에서 효과적으로 기억을 해소할 수 있는가?
• RQ2 이러한 방법은 단일 클래스, 다중 클래스, 무작위 서브셋 기억 삭제와 같은 다양한 기억 삭제 모드에서 어떻게 성능을 발휘하는가?
• RQ3 학습 절차에 제약이 없이 다양한 딥러닝 아키텍처와 응용 분야로 일반화 가능한가?
• RQ4 ZRF 지표는 기존 평가 방법과 비교해 기억 삭제 품질과 일반화 능력을 평가하는 데 어떻게 작용하는가?
• RQ5 다양한 종류의 무능한 교사 사용 시 효율성과 성능 간의 상호 상충 관계는 어떻게 나타나는가?

주요 결과

• 무능한 교사로 ResNet34를 사용할 경우, 잊고자 하는 데이터셋(Rocket 클래스)에서 정확도가 1%로 낮아져, 기억의 최소화를 보여준다. 이는 ResNet18를 사용할 경우 15%, 무작위 예측자 사용 시 5%보다 훨씬 낮은 수준이다.
• 유지 데이터셋 정확도는 ResNet34 교사 사용 시 85.8%, ResNet18 사용 시 85.86%, 무작위 예측자 사용 시 86.04%로 유지되어 강력한 일반화 능력을 보여준다.
• 유지 데이터의 50%에 대해 1 에포크만 훈련된 모델을 무능한 교사로 사용할 경우, 잊고자 하는 데이터셋 정확도는 2%로 나타나고 유지 데이터셋 정확도는 85.07%로, 재학습 모델의 3% 및 85.79%와 매우 유사하다.
• ZRF 지표는 기억 삭제 품질과 강한 상관관계를 보이며, 재학습 모델이 필요 없이 평가가 가능하므로 실세계 배포에 실용적이다.
• 무작위 가중치 교사를 사용할 경우, 전체 재학습 대비 최대 70배 빠르며, Amnesiac 학습보다도 20배 이상 빠르며, 성능 저하가 거의 없다.
• 이 프레임워크는 다양한 모odalities에 일반화되며, 이미지 분류, 인간 활동 인식, 간질 발작 탐지 등 다양한 작업에서 효과를 보였다.