[논문 리뷰] User-Level Privacy-Preserving Federated Learning: Analysis and Performance Optimization

Kang Wei, Jun Li외 5명|arXiv (Cornell University)|2020. 02. 29.

Privacy-Preserving Technologies in Data참고 문헌 38인용 수 12

한 줄 요약

이 논문은 사용자 수준의 차별적 프라이버시(UDP) 프레임워크를 제안하여 모델 업데이트에 노이즈를 주입함으로써 사용자 수준에서 국소적 차별적 프라이버시(LDP)를 보장함으로써 페더레이티드 러닝에서 프라이버시를 향상시킨다. 또한 수렴성을 최적화하기 위해 학습 라운드를 적응적으로 감소시키는 통신 라운드 할인(CRD) 기법을 도입하여, 주어진 프라이버시 예산 하에서 모델 성능과 효율성을 크게 향상시킨다.

ABSTRACT

Federated learning (FL), as a type of collaborative machine learning framework, is capable of preserving private data from mobile terminals (MTs) while training the data into useful models. Nevertheless, from a viewpoint of information theory, it is still possible for a curious server to infer private information from the shared models uploaded by MTs. To address this problem, we first make use of the concept of local differential privacy (LDP), and propose a user-level differential privacy (UDP) algorithm by adding artificial noise to the shared models before uploading them to servers. According to our analysis, the UDP framework can realize $(ε_{i}, δ_{i})$-LDP for the $i$-th MT with adjustable privacy protection levels by varying the variances of the artificial noise processes. We then derive a theoretical convergence upper-bound for the UDP algorithm. It reveals that there exists an optimal number of communication rounds to achieve the best learning performance. More importantly, we propose a communication rounds discounting (CRD) method. Compared with the heuristic search method, the proposed CRD method can achieve a much better trade-off between the computational complexity of searching and the convergence performance. Extensive experiments indicate that our UDP algorithm using the proposed CRD method can effectively improve both the training efficiency and model quality for the given privacy protection levels.

연구 동기 및 목표

• 공유된 모델 업데이트를 통해 악의적인 서버가 민감한 데이터를 유추할 수 있는 페더레이티드 러닝에서의 프라이버시 泄露 문제를 해결하기 위해.
• 노이즈 주입을 통해 각 사용자에 대해 조정 가능한 프라이버시 수준을 갖는 $(\epsilon_i, \delta_i)$-LDP를 달성하기 위해 사용자 수준의 차별적 프라이버시(UDP)를 공식화하기 위해.
• 주어진 프라이버시 예산 하에서 학습 성능을 최대화하는 최적의 통신 라운드 수를 규명하기 위해.
• 수렴성을 향상시키되 계산 오버헤드를 증가시키지 않는 적응형 통신 라운드 감소 메커니즘(CRD)을 설계하기 위해.
• 실세계 페더레이티드 러닝 환경에서 프라이버시, 모델 품질, 통신 효율성 간의 트레이드오프를 평가하기 위해.

제안 방법

• 사용자 수준의 프라이버시 보장을 위해 모델 업데이트에 평균이 0인 가우시안 노이즈를 추가하는 UDP 알고리즘을 도입하며, 노이즈의 분산을 조절하여 각 사용자에 대해 원하는 $(\epsilon_i, \delta_i)$-LDP를 달성한다.
• 모델 수렴에 대한 이론적 상한을 유도하여 최적의 통신 라운드 수 $T$ 가 존재함을 보이며, 이는 최고의 성능를 위한 적응적 제어의 필요성을 입증한다.
• 수렴이 정체될 경우 동적으로 통신 라운드 수를 감소시키는 CRD 기법을 제안하여 효율성을 향상시킨다.
• 통신 라운드 수 감소 속도를 제어하기 위해 할인 요소 $\beta$ 를 사용하며, $\beta=0.9$ 가 강력한 성능을 보임을 입증한다.
• CRD의 우수성을 입증하기 위해 히우리스틱 검색 기반 기준 모델을 비교하며, 수렴성과 복잡성 간의 균형을 잘 맞춘다.
• 비독립 동일 분포(NIID) 및 불균형 데이터 분포 조건 하에서 CIFAR-10 및 MNIST 데이터셋에 대해 CNN과 MLP 모델을 모두 활용하여 강건성을 검증한다.

실험 결과

연구 질문

• RQ1 노이즈 주입을 통해 페더레이티드 러닝에서 사용자 수준의 차별적 프라이버시를 효과적으로 구현할 수 있으며, 이는 모델 유틸리티를 유지할 수 있는가?
• RQ2 주어진 프라이버시 예산 하에서 수렴 성능을 최대화하는 최적의 통신 라운드 수 $T$ 는 무엇인가?
• RQ3 제안된 CRD 기법은 히우리스틱 또는 고정 라운드 전략 대비 수렴 성능을 어떻게 향상시키는가?
• RQ4 할인 요소 $\beta$ 는 통신 효율성과 모델 정확성 간의 트레이드오프에 어떤 영향을 미치는가?
• RQ5 CRD 기법은 다양한 데이터 분포 및 모델 아키텍처에 일반화될 수 있는가?

주요 결과

• UDP 알고리즘은 추가된 노이즈의 분산을 조절하여 $(\epsilon_i, \delta_i)$-국소적 차별적 프라이버시를 달성하며, 사용자별로 조정 가능한 프라이버시 수준을 제공한다.
• 최적의 통신 라운드 수 $T$ 가 존재하여 모델 수렴 성능을 최대화하며, 이는 적응적 제어의 필요성을 입증한다.
• 제안된 CRD 기법은 기준 UDP 및 Lei의 접근법 대비 수렴 속도와 최종 모델 정확도를 크게 향상시키며, 특히 $\beta=0.9$ 에서 두드러진 성능을 보인다.
• 더 큰 할인 요소 $\beta$ 는 $T$ 의 감쇠 속도를 느리게 하여 더 나은 수렴 성능를 얻지만, 통신 라운드 소비량이 증가한다.
• CIFAR-10 및 MNIST에서의 실험 결과, 비독립 동일 분포 및 불균형 데이터 설정 모두에서 테스트 정확도 향상과 손실 감소가 일관되게 관찰된다.
• 통신 라운드 수와 수렴 성능 간의 트레이드오프는 정량화 가능하며, 시험된 구성에서 $\beta=0.8$ 이 가장 균형 잡힌 성능을 보였다.