[논문 리뷰] Learn to Forget: User-Level Memorization Elimination in Federated Learning.

Yang Liu, Zhuo Ma외 2명|arXiv (Cornell University)|2020. 03. 24.

Privacy-Preserving Technologies in Data인용 수 15

한 줄 요약

이 논문은 사용자가 모델에서 기억된 개인 정보 데이터를 제거할 수 있도록 하는 페더레이티드 러닝 프레임워크인 extsc{Learn to Forget}를 제안한다. 각 사용자는 악성 경사도를 생성하여 기억화를 억제하는 덱스터리 경사도 생성기를 훈련시키며, 이는 모델의 보안성과 페더레이티드 러닝의 훈련 절차를 훼손하지 않은 채 데이터 철수를 보장한다.

ABSTRACT

Federated learning is a decentralized machine learning technique that evokes widespread attention in both the research field and the real-world market. However, the current privacy-preserving federated learning scheme only provides a secure way for the users to contribute their private data but never leaves a way to withdraw the contribution to model update. Such an irreversible setting potentially breaks the regulations about data protection and increases the risk of data extraction. To resolve the problem, this paper describes a novel concept for federated learning, called memorization elimination. Based on the concept, we propose \sysname, a federated learning framework that allows the user to eliminate the memorization of its private data in the trained model. Specifically, each user in \sysname is deployed with a trainable dummy gradient generator. After steps of training, the generator can produce dummy gradients to stimulate the neurons of a machine learning model to eliminate the memorization of the specific data. Also, we prove that the additional memorization elimination service of \sysname does not break the common procedure of federated learning or lower its security.

연구 동기 및 목표

• GDPR와 같은 개인정보 보호 규정을 위반하는 페더레이티드 러닝에서의 데이터 철수 메커니즘 부족 문제를 해결한다.
• 사용자 데이터의 불가역적 기억화로 인한 데이터 추출 위험을 완화한다.
• 페더레이티드 러닝 프로세스를 방해하지 않고 사용자가 자신의 개인 정보 데이터 기억화를 능동적으로 제거할 수 있도록 한다.
• 핵심 훈련 및 집계 절차를 변경하지 않으면서도 모델 보안성과 훈련 무결성을 유지하면서 가역적인 데이터 제거 기능을 제공한다.

제안 방법

• 각 사용자 클라이언트에 훈련 가능한 가짜 경사도 생성기를 도입하여, 사용자의 개인 정보 데이터 기억화를 억제하는 경사도를 학습한다.
• 모델 훈련 후, 사용자는 생성기를 배포하여 특정 데이터 패턴의 기억화를 유도하는 가짜 경사도를 생성한다.
• 생성된 경사도는 중앙 서버로 전송되어 글로벌 모델을 미세 조정하는 데 사용되며, 결과적으로 사용자 데이터의 기억화가 효과적으로 감소된다.
• 핵심 페더레이티드 러닝 파이프라인을 수정하지 않고도 표준 평균화 절차에 통합되며, 보안성이 약화되지 않는다.
• 이론적 분석을 통해 기억화 제거 과정이 모델의 유용성 또는 프라이버시 보장을 약화시키지 않는다는 것이 입증된다.
• 생성기는 사용자 개인 정보 데이터에 대한 모델 활성도를 최소화하도록 유도하는 손실 함수를 사용해 종단 간(end-to-end)으로 훈련된다.

실험 결과

연구 질문

• RQ1 훈련 후 사용자가 글로벌 모델에서 개인 정보 데이터의 기억화를 제거할 수 있는가? 이는 글로벌 모델에서 데이터 삭제에 의존하지 않는다.
• RQ2 제안된 기억화 제거 메커니즘이 페더레이티드 러닝 동안 모델의 유용성과 수렴성을 유지하는가?
• RQ3 가짜 경사도 생성기가 특정 데이터의 기억화를 효과적으로 억제할 수 있는가? 이 과정에서 새로운 프라이버시 유출이 발생하지는 않는가?
• RQ4 제안된 방법이 표준 페더레이티드 러닝 프로토콜과 보안 집계 기법과 호환되는가?

주요 결과

• extsc{Learn to Forget} 프레임워크는 사용자가 글로벌 모델에서 자신의 개인 정보 데이터 기억화를 성공적으로 제거할 수 있음을 입증했다.
• 성능 저하가 유의미하게 발생하지 않으며, 표준 페더레이티드 러닝과 비교해도 모델 정확도와 수렴 행동이 유사하게 유지된다.
• 가짜 경사도 생성기가 사용자 개인 정보 데이터에 대한 모델 활성도를 효과적으로 감소시켜 타겟된 기억화 제거를 보여준다.
• 기본 훈련 및 집계 절차를 변경하지 않아도 되므로, 페더레이티드 러닝의 보안성이 손상되지 않았다.
• 이론적 분석을 통해 추가 서비스가 페더레이티드 러닝의 프라이버시 보장 수준을 약화시키지 않는다는 것이 확인되었다.
• 이 방법은 사용자 수준의 데이터 철수를 지원하며, GDPR과 같은 개인정보 보호 규정과 부합한다.