[논문 리뷰] Towards Unbounded Machine Unlearning

Meghdad Kurmanji, Peter Triantafillou외 2명|arXiv (Cornell University)|2023. 02. 20.

COVID-19 diagnosis using AI인용 수 16

한 줄 요약

SCRUB은 교사-학생 프레임워크를 활용하여 편향, 혼란, 프라이버시 응용에 걸쳐 유용성을 보존하면서 학습 데이터의 부분 집합을 잊어버리도록 하는 확장가능한 언러닝 방법으로 제안된다; SCRUB에는 프라이버시를 위한 기억 품질을 조절하는 재와ying(rewinding) 변형이 포함되며, 프라이버시 방어를 평가하기 위한 LiRA 기반의 MIA(adapted LiRA-based MIA)도 적합하다.

ABSTRACT

Deep machine unlearning is the problem of `removing' from a trained neural network a subset of its training set. This problem is very timely and has many applications, including the key tasks of removing biases (RB), resolving confusion (RC) (caused by mislabelled data in trained models), as well as allowing users to exercise their `right to be forgotten' to protect User Privacy (UP). This paper is the first, to our knowledge, to study unlearning for different applications (RB, RC, UP), with the view that each has its own desiderata, definitions for `forgetting' and associated metrics for forget quality. For UP, we propose a novel adaptation of a strong Membership Inference Attack for unlearning. We also propose SCRUB, a novel unlearning algorithm, which is the only method that is consistently a top performer for forget quality across the different application-dependent metrics for RB, RC, and UP. At the same time, SCRUB is also consistently a top performer on metrics that measure model utility (i.e. accuracy on retained data and generalization), and is more efficient than previous work. The above are substantiated through a comprehensive empirical evaluation against previous state-of-the-art.

연구 동기 및 목표

• 지역화된(unlearning)을 응용 의존적으로 정의하고 형식화하는 목표: 편향 제거(RB), 잘못 표기 제거로 인한 혼란 해소(RC), 사용자 프라이버시(UP)에 대한 서로 다른 잊힘(desiderata)를 설정합니다.
• 교사-학생 언러닝 프레임워크(SCRUB)를 도입하여 대상 데이터를 잊기 위해 교사를 의도적으로 벗어나되, 유지 데이터에서의 지식을 보존하는 확장가능한 설계를 제시합니다.
• 프라이버시를 위한 잊힘 품질을 보정하기 위한 재와ying 확장(SCRUB+R)을 도입합니다.
• 다양한 데이터셋(CIFAR-10, Lacuna-10)과 아키텍처(ResNet, All-CNN)에서 RB, RC, UP 과제 전반에 걸쳐 SCRUB를 최첨단 기준선과 비교 평가합니다.

제안 방법

• 언러닝을 교사-학생 문제로 형식화합니다. 학생은 교사의 가중치에서 시작하여 잊기 세트를 잊게 학습하고 유지 세트에서는 교사에 가깝게 남아 있도록 학습합니다.
• 교사-학생 출력의 KL-발산을 유지 데이터에서 최소화하고 잊은 데이터에서 최대화하는 대조적 목표와 유지 데이터에 대한 감독 손실을 정의합니다: 최소화 식은 alpha * (retain 데이터의 d) + gamma * (retained 데이터의 감독 손실) - (forget 데이터의 d)입니다.
• 훈련의 안정화를 위해 교대 최대-스텝(잊기 세트)과 최소-스텝(유지 세트) 업데이트로 목표를 최적화하고, 유지 성능 회복을 위한 추가 최소-스텝으로 종료합니다.
• SCRUB+R 재와ying을 추가하여 잊기 세트 오차가 분포-일치 검증 세트에서 파생된 참조 포인트와 일치하는 체크포인트를 선택하여 프라이버시 방어를 개선합니다.
• UP 성능을 평가하기 위해 LiRA 형식의 멤버십 추론 공격을 적용 가능한 프라이버시 지향 지표로 활용합니다.
• SCRUB의 오픈소스 구현을 제공합니다.

실험 결과

연구 질문

• RQ1 다양한 응용(RB, RC, UP)을 위해 잊힘을 어떻게 정의하고 측정해야 하는가?
• RQ2 모델 유용성을 보존하면서도 다양한 응용에서 견고하게 작동하는 단일 언러닝 프레임워크가 가능한가?
• RQ3 교사-학생 구성(SCRUB)이 이전의 언러닝 방법들보다 잊힘 품질과 효율성 면에서 우수한가?
• RQ4 프라이버시 방어와 유용성 사이의 균형을 맞추기 위해 잊힘 품질을 어떻게 보정할 수 있는가(SCRUB+R)?
• RQ5 멤버십 추론 공격에 대한 언러닝의 영향은 무엇이며, 적응된 MIAs를 사용하여 이를 어떻게 정량화할 수 있는가?

주요 결과

• SCRUB은 RB, RC, UP 지표 전반에서 잊힘 성능이 일관되게 상위권을 차지하며 유지 데이터 정확도와 일반화도 보존합니다.
• SCRUB은 CIFAR-5/Lacuna-5 및 더 큰 규모의 설정에서 바람직한 잊힘 품질과 유용성 측면에서 Baseline들(예: Finetune, NegGrad+, CF-k, EU-k, NTK/Fisher 기반 방법들)을 능가합니다.
• SCRUB+R(재와ying)은 잊기 세트 오차가 프라이버시 참조점과 정렬되는 체크포인트를 선택함으로써 멤버십 추론 공격에 대한 방어를 강화할 수 있습니다.
• CIFAR-5/Lacuna-5의 RC 실험에서 SCRUB은 잔류/테스트 성능에 최소한의 영향을 주면서 클래스 혼란 해결에 가장 강한 성능을 보입니다.
• UP 실험에서 SCRUB+R은 MIA 방어에 효과적이며, 특정 구성에서 재훈련(retraining)보다 잊힘 오차가 근접하고 LiRA 기반 MIA 적응이 프라이버시 방어를 평가하는 데 사용됩니다.
• 전반적으로 SCRUB의 비제한적(unbound) 설계는 기존 방법들에 비해 다양한 응용에서 확장성 및 성능 안정성을 더 잘 보장합니다.