[논문 리뷰] VeriFi: Towards Verifiable Federated Unlearning

Xiangshan Gao, Xingjun Ma외 6명|arXiv (Cornell University)|2022. 05. 25.

Privacy-Preserving Technologies in Data인용 수 15

한 줄 요약

VeriFi는 참여자가 자신의 데이터가 글로벌 모델에서 효과적으로 제거되었는지 검증할 수 있도록 하는 통합 프레임워크를 제안한다. 서버 측에서의 언리닝과 주입된 마커를 활용한 클라이언트 측 검증을 결합하여, uS2U(효율적인 언리닝)와 vEM(비침습적 검증)의 조합이 보안이나 모델 성능에 영향을 주지 않으면서도 강력하고 신뢰할 수 있는 언리닝을 달성함을 보여준다.

ABSTRACT

Federated learning (FL) is a collaborative learning paradigm where participants jointly train a powerful model without sharing their private data. One desirable property for FL is the implementation of the right to be forgotten (RTBF), i.e., a leaving participant has the right to request to delete its private data from the global model. However, unlearning itself may not be enough to implement RTBF unless the unlearning effect can be independently verified, an important aspect that has been overlooked in the current literature. In this paper, we prompt the concept of verifiable federated unlearning, and propose VeriFi, a unified framework integrating federated unlearning and verification that allows systematic analysis of the unlearning and quantification of its effect, with different combinations of multiple unlearning and verification methods. In VeriFi, the leaving participant is granted the right to verify (RTV), that is, the participant notifies the server before leaving, then actively verifies the unlearning effect in the next few communication rounds. The unlearning is done at the server side immediately after receiving the leaving notification, while the verification is done locally by the leaving participant via two steps: marking (injecting carefully-designed markers to fingerprint the leaver) and checking (examining the change of the global model's performance on the markers). Based on VeriFi, we conduct the first systematic and large-scale study for verifiable federated unlearning, considering 7 unlearning methods and 5 verification methods. Particularly, we propose a more efficient and FL-friendly unlearning method, and two more effective and robust non-invasive-verification methods. We extensively evaluate VeriFi on 7 datasets and 4 types of deep learning models. Our analysis establishes important empirical understandings for more trustworthy federated unlearning.

연구 동기 및 목표

• 페더레이티드 러닝에서 언리닝 효과를 검증하는 데 있어 기존 방법이 신뢰성과 감사 가능성이 부족한 심각한 격차를 해결하기 위해.
• 페더레이티드 언리닝을 체계적인 검증과 통합한 통합 프레임워크를 설계하여, 이격된 참가자가 독립적으로 검증할 수 있도록 하기 위해.
• 화이트박스 액세스가 필요하거나 보안 리스크를 유발하지 않는 효율적이고 안전하며 비침습적인 검증 기법을 개발하기 위해.
• 다양한 데이터셋과 모델을 대상으로 검증 가능한 페더레이티드 언리닝에 대한 최초의 대규모 실증 연구를 수행하기 위해.
• uS2U와 같은 신규 접근법을 포함한 여러 언리닝 및 검증 방법을 평가하고 벤치마킹하기 위해.

제안 방법

• 참가자가 퇴출되면서 서버에 통보하고, 이후 라운드에서 로컬으로 언리닝을 검증할 수 있도록 하는 Right to Verify (RTV) 메커니즘을 도입한다.
• 퇴출되는 참가자의 데이터에 신중하게 설계된, 인지하기 어려운 마커(예: 백도어 트리거)를 주입하여 기여도를 지문화한다.
• 언리닝 이후 마커에 대한 모델 성능 변화를 모니터링하여 언리닝 효과를 정량화한다.
• uS2U와 같은 방법을 사용해 서버 측에서 언리닝을 수행하여 참가자의 영향을 재학습 없이 효율적으로 제거한다.
• 외부 데이터나 모델 액세스가 필요 없이 보안성과 실용성을 확보하는 비침습적 기법(vFM, vEM)을 활용해 검증을 수행한다.
• 다양한 언리닝 및 검증 방법의 모듈식 통합을 지원하여 체계적인 비교 및 벤치마킹이 가능하도록 한다.

Figure 1: Overview of the proposed VeriFi framework and its three key modules: 1) unlearning module; 2) verification module; and 3) unlearning-verification mechanism. The standard “Federated Learning” procedure is further illustrated in Fig. 2 .

실험 결과

연구 질문

• RQ1 퇴출되는 참가자가 신뢰할 수 없는 분산 환경에서 효과적으로 언리닝을 검증할 수 있는가?
• RQ2 uS2U, uRT 등 다양한 언리닝 방법은 참가자 데이터 제거의 효율성과 효과성 측면에서 어떻게 비교되는가?
• RQ3 마커 설계(크기, 투명도)는 검증 신뢰성과 모델 성능에 어떤 영향을 미치는가?
• RQ4 FL에서 활성 참가자의 수가 많아질수록 마커 기반 검증을 통한 언리닝 탐지 가능성은 어떻게 변화하는가?
• RQ5 특히 실제 FL 환경에서 비i.i.d. 데이터 분포 하에서 검증은 얼마나 견고한가?

주요 결과

• uS2U 언리닝 방법은 최소한의 시간 및 스토리지 오버헤드로 효과적인 데이터 제거를 달성하여 기존의 재학습 및 기울기 기반 접근법을 능가한다.
• vEM 검증 방법은 화이트박스 액세스나 외부 데이터가 필요 없이 강력하고 비침습적인 언리닝 효과 탐지를 제공하여 보안성을 향상시킨다.
• 마커의 투명도와 크기는 검증 신뢰성에 큰 영향을 미치며, 중간 수준의 파rameter가 탐지 가능성과 인지 불가능성 사이의 최적 균형을 이룬다.
• 참가자가 많아질수록 개별 기여의 기여도가 희석되어 언리닝 효과 탐지가 어려워지며, 이로 인해 검증 민감도가 감소한다.
• 엄격한 비i.i.d. 데이터 분포 하에서는 언리닝 검증이 어려운데, uRT와 uDP만이 퇴출된 데이터에서 일관된 성능 변화를 보였다.
• uS2U와 vEM의 조합이 검증 가능한 페더레이티드 언리닝에서 가장 유망한 성과를 보였으며, 높은 효율성, 효율성, 보안성을 동시에 확보했다.

Figure 2: Collaboration and learning in federated learning.