[논문 리뷰] FLAME: Differentially Private Federated Learning in the Shuffle Model

Ruixuan Liu, Yang Cao외 3명|arXiv (Cornell University)|2020. 09. 17.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

FLAME는 차분 모델의 차별적 비밀보장에서 새로운 피어드 학습 프레임워크를 제안하며, 신뢰할 수 있는 분석자 없이도 높은 유틸리티를 달성한다. 이는 차례섞기와 부분표본 추출을 통한 프라이버시 강화를 활용하여 달성된다. SS-Topk는 기울기 흐림화 기반 프로토콜로, 국지 모델 FL 대비 테스트 정확도를 60.7% 향상시키고, 쿠르티언 모델 FL 대비 33.94% 향상시키며, (2.348, 5e−6)-DP 조건에서 에포크당 정확도 손실이 오직 1.48%에 불과하여 비공개 FL에 비해 최소한의 유틸리티 손실을 기록한다.

ABSTRACT

Federated Learning (FL) is a promising machine learning paradigm that enables the analyzer to train a model without collecting users' raw data. To ensure users' privacy, differentially private federated learning has been intensively studied. The existing works are mainly based on the extit{curator model} or extit{local model} of differential privacy. However, both of them have pros and cons. The curator model allows greater accuracy but requires a trusted analyzer. In the local model where users randomize local data before sending them to the analyzer, a trusted analyzer is not required but the accuracy is limited. In this work, by leveraging the extit{privacy amplification} effect in the recently proposed shuffle model of differential privacy, we achieve the best of two worlds, i.e., accuracy in the curator model and strong privacy without relying on any trusted party. We first propose an FL framework in the shuffle model and a simple protocol (SS-Simple) extended from existing work. We find that SS-Simple only provides an insufficient privacy amplification effect in FL since the dimension of the model parameter is quite large. To solve this challenge, we propose an enhanced protocol (SS-Double) to increase the privacy amplification effect by subsampling. Furthermore, for boosting the utility when the model size is greater than the user population, we propose an advanced protocol (SS-Topk) with gradient sparsification techniques. We also provide theoretical analysis and numerical evaluations of the privacy amplification of the proposed protocols. Experiments on real-world dataset validate that SS-Topk improves the testing accuracy by 60.7\% than the local model based FL.

연구 동기 및 목표

• 차례섞기 모델의 프라이버시 강화 효과를 활용하여 피어드 학습에서 유틸리티와 프라이버시의 상충 관계를 해결한다.
• 신뢰할 수 있는 분석자에 의존하지 않으면서도 쿠르티언 모델 수준의 정확도를 달성한다.
• 높은 차원의 피어드 학습 환경에서 모델 매개변수의 차원이 커짐에 따라 프라이버시 강화 효과가 떨어지는 문제를 해결한다.
• 통제된 인덱스 프라이버시를 갖는 데이터 기반 기울기 흐림화를 도입하여 고차원 환경에서 유틸리티를 향상시킨다.
• 차례섞기 모델 하에서의 상위-k 선택 프로토콜에 대한 인덱스 프라이버시 위험을 체계적으로 정의하고 정량화한다.

제안 방법

• 사용자, 섞는 이, 분석자 간의 신뢰 경계를 분리하는 차례섞기 모델 기반의 피어드 학습 프레임워크인 FLAME를 제안한다.
• 일차원 차례섞기 기반 프로토콜을 피어드 학습에 확장하는 SS-Simple 프로토콜을 도입하지만, 고차원 모델 업데이트로 인해 프라이버시 강화 효과가 제한됨을 관찰한다.
• 무작위 부분표본 추출을 통해 프라이버시 강화를 향상시키기 위해 SS-Double를 설계하며, 차례섞기와 부분표본 추출의 강화 효과를 공식적으로 조합하기 위한 새로운 드미 패딩 기법을 도입한다.
• 상위-k 차원을 선택하기 위해 기울기 흐림화를 사용하는 SS-Topk를 개발하여 고차원 환경에서 유틸리티를 향상시키고, 인덱스 프라이버시 泄露를 정량화하고 제어한다.
• 차례섞기와 부분표본 추출에 의한 프라이버시 강화를 공식적으로 증명하며, 인덱스 프라이버시와 유틸리티 사이의 탄력적인 트레이드오프 메커니즘을 제안한다.
• 이론적 분석과 수치적 평가를 통해 제안된 프로토콜의 프라이버시 강화 및 유틸리티 향상 효과를 검증한다.

실험 결과

연구 질문

• RQ1 고차원 피어드 학습에서 큰 모델 매개변수를 가진 환경에 대해 차례섞기 모델의 차별적 비밀보장이 효과적으로 적용될 수 있는가?
• RQ2 모델 업데이트의 차원이 크고 사용자 수가 중간 수준일 때, 피어드 학습에서 프라이버시 강화를 최대화할 수 있는가?
• RQ3 부분표본 추출과 차례섞기를 공식적으로 조합하여 차례섞기 모델에서 더 강력한 프라이버시 강화를 달성할 수 있는가?
• RQ4 특히 인덱스 선택이 데이터 기반일 경우, 기울기 흐림화를 차례섞기 모델에 통합하면서 프라이버시를 손상시키지 않을 수 있는가?
• RQ5 차례섞기 모델 하에서 상위-k 선택 프로토콜의 유틸리티와 인덱스 프라이버시 사이의 트레이드오프는 무엇이며, 이를 정량적으로 어떻게 관리할 수 있는가?

주요 결과

• SS-Topk는 국지 모델 기반 FL 대비 테스트 정확도를 60.7% 향상시켜 강력한 프라이버시 조건에서도 뚜렷한 유틸리티 향상을 보였다.
• SS-Topk는 신뢰할 수 있는 분석자가 필요 없이도 쿠르티언 모델 기반 FL 대비 33.94% 높은 정확도를 달성하여 유틸리티와 신뢰 간 격차를 메웠다.
• SS-Double에서 제안된 차례섞기와 부분표본 추출의 이중 강화 효과는 SS-Simple 대비 수십 배 높은 프라이버시 강화를 달성했다.
• (2.348, 5e−6)-DP 조건에서 에포크당 SS-Topk는 비공개 FL 대비 오직 1.48%의 정확도 손실만 기록하여 최소한의 유틸리티 비용을 보였다.
• 공식적 분석을 통해 드미 패딩이 차례섞기와 부분표본 추출의 강화 효과를 모두 조합 가능하게 하여 엄격한 프라이버시 보장을 보장함을 증명했다.
• 연구는 상위-k 선택에서의 인덱스 프라이버시 泄露를 정량화하고, 분석자 수준의 프라이버시를 유지하면서 유틸리티를 향상시키는 탄력적인 트레이드오프 메커니즘을 제안했다.