[논문 리뷰] Machine Unlearning of Features and Labels

Alexander Warnecke, Lukas Pirch외 2명|arXiv (Cornell University)|2021. 08. 26.

Machine Learning and Data Classification인용 수 9

한 줄 요약

이 논문은 영향 함수를 사용하여 특징과 레이블의 기계적 미학습을 위한 최초의 방법을 제안하며, 폐쇄형 매개변수 업데이트를 가능하게 하여 볼록 모델에서 인증 가능한 미학습을 달성하고, 재학습보다 수 개의 주기만큼 빠른 속도 향상을 이끌어내며, 딥 뉴럴 네트워크와 같은 비볼록 설정에서도 모델 정확도를 유지한다.

ABSTRACT

Removing information from a machine learning model is a non-trivial task that requires to partially revert the training process. This task is unavoidable when sensitive data, such as credit card numbers or passwords, accidentally enter the model and need to be removed afterwards. Recently, different concepts for machine unlearning have been proposed to address this problem. While these approaches are effective in removing individual data points, they do not scale to scenarios where larger groups of features and labels need to be reverted. In this paper, we propose the first method for unlearning features and labels. Our approach builds on the concept of influence functions and realizes unlearning through closed-form updates of model parameters. It enables to adapt the influence of training data on a learning model retrospectively, thereby correcting data leaks and privacy issues. For learning models with strongly convex loss functions, our method provides certified unlearning with theoretical guarantees. For models with non-convex losses, we empirically show that unlearning features and labels is effective and significantly faster than other strategies.

연구 동기 및 목표

• 기존의 미학습 방법이 고립된 데이터 포인트만 제거할 수 있는 한계를 해결하기 위해, 여러 인스턴스에 걸쳐 퍼져 있는 특징이나 레이블을 제거할 수 있도록 하기 위해.
• 학습 데이터의 특징과 레이블에 분산된 민감한 정보를 효율적이고 확장 가능한 방식으로 미학습할 수 있도록 하기 위해.
• 강한 볼록 손실 함수를 가진 모델에서 미학습에 대한 이론적 보장을 제공하기 위해.
• 실세계 모델에서 데이터 泄露를 수정하기 위한 재학습이나 샤딩의 실용적이고 빠른 대안을 제공하기 위해.

제안 방법

• 이 방법은 영향 함수를 사용해 학습 데이터가 모델 매개변수에 미치는 영향을 추정하고, 이를 미학습을 위한 폐쇄형 업데이트로 재구성한다.
• 볼록 모델의 경우, 인증 가능한 미학습을 가능하게 하는 일阶 및 이阶 기울기 업데이트를 유도한다.
• 학습 과정에 노이즈를 도입하여 모델 차이의 상한을 유도함으로써, 차별적 프라이버시 기반으로 증명 가능한 미학습을 가능하게 한다.
• 딥 뉴럴 네트워크와 같은 비볼록 모델의 경우, 이론적 보장 없이 일阶 업데이트를 적용하지만 강력한 경험적 성능을 보인다.
• 원래의 학습 데이터에 접근하지 않아도 되며, 오직 모델 매개변수와 영향 추정치에 의존하여 미학습을 수행할 수 있다.
• 특징 및 레이블 수준에서의 미학습을 지원하여, 여러 데이터 포인트에 걸쳐 퍼진 泄露를 수정할 수 있다.

실험 결과

연구 질문

• RQ1 기계적 미학습을 개별 데이터 포인트를 넘어서, 여러 학습 인스턴스에 퍼져 있는 특징과 레이블로 확장할 수 있는가?
• RQ2 영향 함수를 재사용하여 특징과 레이블의 폐쇄형, 효율적인 미학습을 가능하게 할 수 있는가?
• RQ3 제안된 방법이 강한 볼록 손실 함수를 가진 모델에서 인증 가능한 미학습 보장을 제공하는가?
• RQ4 딥 뉴럴 네트워크와 같은 비볼록 모델에서 재학습 및 샤딩과 비교해 이 방법의 속도와 정확도는 어떻게 되는가?
• RQ5 이 방법은 실세계 응용에서 레이블 풀링 및 의도하지 않은 기억화를 효과적으로 완화할 수 있는가?

주요 결과

• 제안된 방법은 폐쇄형 매개변수 업데이트를 통해 특징과 레이블의 미학습을 달성하며, 재학습 대비 실행 시간을 수 개의 주기만큼 감소시킨다.
• 강한 볼록 손실 함수를 가진 모델의 경우, 차별적 프라이버시 및 영향 함수 경계 기반으로 이론적 보장을 제공하는 인증 가능한 미학습을 달성한다.
• 비볼록 손실을 가진 딥 뉴럴 네트워크에서는 일阶 업데이트가 재학습 및 샤딩과 유사한 정확도를 달성하지만, 훨씬 더 빠른 속도를 보인다.
• 모델 크기의 변화에 관계없이 모델 정확도를 유지하며, 런타임이 매개변수 수에 거의 선형적으로 비례한다.
• 사례 연구에서는 선형 모델에서 민감한 특징의 성공적인 미학습, 언어 모델에서의 의도하지 않은 기억화, 컴퓨터 비전에서의 레이블 풀링을 최소한의 품질 손실로 효과적으로 수정하였다.
• 원래의 학습 데이터가 가용하지 않을 경우에도 이 방법은 모델 매개변수와 영향 추정치에만 의존하여 효과적으로 작동한다.