[논문 리뷰] The Fundamental Price of Secure Aggregation in Differentially Private Federated Learning

Weining Chen, Christopher A. Choquette-Choo외 2명|arXiv (Cornell University)|2022. 03. 07.

Privacy-Preserving Technologies in Data인용 수 11

한 줄 요약

이 논문은 비밀 유지된 피벗 학습에서 안정성 있는 집계를 위한 기본적인 통신 비용을 규명하며, 중심적 차별적 프라이버시(central DP) 정확도를 달성하기 위해 클라이언트당 $\tilde{O}(\text{min}(n^2\varepsilon^2, d))$ 비트가 필요하고 충분함을 증명한다. 선형 압축 기법을 제안하며, 희소 랜덤 프로젝션과 분산 이산 가우시안 메커니즘을 조합하여 이전 방법들에 비해 통신 비용을 수 개의 주기로 감소시키면서도 유효성 유지한다.

ABSTRACT

We consider the problem of training a $d$ dimensional model with distributed differential privacy (DP) where secure aggregation (SecAgg) is used to ensure that the server only sees the noisy sum of $n$ model updates in every training round. Taking into account the constraints imposed by SecAgg, we characterize the fundamental communication cost required to obtain the best accuracy achievable under $\varepsilon$ central DP (i.e. under a fully trusted server and no communication constraints). Our results show that $ ilde{O}\left( \min(n^2\varepsilon^2, d) ight)$ bits per client are both sufficient and necessary, and this fundamental limit can be achieved by a linear scheme based on sparse random projections. This provides a significant improvement relative to state-of-the-art SecAgg distributed DP schemes which use $ ilde{O}(d\log(d/\varepsilon^2))$ bits per client. Empirically, we evaluate our proposed scheme on real-world federated learning tasks. We find that our theoretical analysis is well matched in practice. In particular, we show that we can reduce the communication cost significantly to under $1.2$ bits per parameter in realistic privacy settings without decreasing test-time performance. Our work hence theoretically and empirically specifies the fundamental price of using SecAgg.

연구 동기 및 목표

• 중앙적 DP와 동일한 모델 정확도를 달성하기 위해 분산 차별적 프라이버시(DP)와 함께 안정성 있는 집계(SecAgg)를 적용할 때 필요한 기본적인 통신 비용을 규명하는 것.
• 기존 SecAgg 호환 기법들이 통신 최적화인지, 아니면 비최적화인지 확인하는 것.
• SecAgg와 호환되며 통신 비용을 최소화하면서도 DP 보장을 유지하고 모델 유효성을 보존하는 선형 압축 기법을 설계하는 것.
• 제안된 기법이 최신 기법들에 비해 훨씬 낮은 통신 비용을 기록하면서도 테스트 성능을 저하시키지 않는다는 것을 이론적·실증적으로 검증하는 것.

제안 방법

• 클라이언트 업데이트를 전송하기 전에 희소 랜덤 프로젝션(특히 카운트-스키치) 기반의 선형 압축 기법을 제안하여 압축한다.
• 압축 기법을 분산 이산 가우시안(DDG) 메커니즘과 조합하여 차별적 프라이버시를 보장한다.
• 안정성 있는 집계 프로토콜을 사용하여 서버가 클라이언트 업데이트의 노이즈가 섞인 합만 관찰할 수 있도록 하여 클라이언트 수준의 프라이버시를 유지한다.
• 압축과 노이즈에 의해 유도되는 오차를 농도 불등식과 尾尾 확률 한계를 사용하여 분석하여 프라이버시와 정확도를 확보한다.
• 랜덤 프로젝션과 노이즈 주입의 확률적 분석을 통해 통신 비용에 대한 이론적 경계를 유도한다.
• 실제 피벗 학습 작업을 대상으로 제안된 기법을 실증적으로 평가하여 이론적 주장과 통신 절감 효과를 검증한다.

실험 결과

연구 질문

• RQ1 안정성 있는 집계를 동반한 분산 환경에서 중심적 DP 정확도를 달성하기 위한 통신 비용의 기본 하한은 무엇인가?
• RQ2 기존의 SecAgg 호환 DP 기법들의 통신 비용은 최적인지, 아니면 크게 줄일 수 있는가?
• RQ3 희소 랜덤 프로젝션 기반의 선형 압축 기법이 차별적 프라이버시와 모델 유효성을 유지하면서도 최적의 통신 효율성을 달성할 수 있는가?
• RQ4 제안된 기법 하에서 통신 비용은 클라이언트 수 $n$, 프라이버시 예산 $\varepsilon$, 모델 차원 $d$에 따라 어떻게 변화하는가?
• RQ5 실제 프라이버시 환경에서 테스트 시점의 모델 성능이 저하되지 않도록 통신 비용을 얼마나 줄일 수 있는가?

주요 결과

• SecAgg 하에서 중심적 DP 정확도를 달성하기 위한 기본 통신 비용은 클라이언트당 $\tilde{O}(\text{min}(n^2\varepsilon^2, d))$ 비트이며, 이는 필수적이고도 충분하다.
• 제안된 기법은 실제 프라이버시 설정에서 클라이언트당 1.2 비트 이하로 통신 비용을 낮추며, 이는 이전 연구에서 보고한 클라이언트당 16 비트에 비해 크게 감소한 것이다.
• 이러한 감소는 희소 랜덤 프로젝션과 분산 이산 가우시안 메커니즘의 조합을 통해 달성되며, SecAgg 제약 조건 하에서 최적의 압축을 가능하게 한다.
• 이론적 분석을 통해 통신 비용이 $d$에 대해 비선형적으로, $n\varepsilon$에 대해 제곱적으로 증가함을 확인하였으며, 이는 고프라이버시 환경에서의 압축 가능성 향상을 반영한다.
• 실제 피벗 학습 작업에서의 실증 결과는 이론적 예측과 강력한 일치를 보이며, 테스트 정확도에 하락이 없음을 확인하였다.
• 이전 기법들이 클라이언트당 $\tilde{O}(d\log(d/\varepsilon^2))$ 비트를 사용하는 것은 엄밀히 비최적임을 입증하였으며, 제안된 방법은 정보 이론적 한계에 도달하였다.