[논문 리뷰] Tailoring Gradient Methods for Differentially-Private Distributed Optimization

Yongqiang Wang, Angelia Nedić|arXiv (Cornell University)|2022. 02. 02.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 정적-합의와 동적-합의(기울기 추적) 기반으로, 무한 반복에서도 최적 해로의 거의 확실 수렴과 동시에 $\epsilon$-미분적 보안을 보장하는 두 가지 새로운 미분적 보안 기반 기울기 방법을 제안한다. 이 방법은 유한한 보안 예산을 유지하면서도 엄밀한 보안을 확보하면서 최적화 정확도도 유지한다.

ABSTRACT

Decentralized optimization is gaining increased traction due to its widespread applications in large-scale machine learning and multi-agent systems. The same mechanism that enables its success, i.e., information sharing among participating agents, however, also leads to the disclosure of individual agents' private information, which is unacceptable when sensitive data are involved. As differential privacy is becoming a de facto standard for privacy preservation, recently results have emerged integrating differential privacy with distributed optimization. However, directly incorporating differential privacy design in existing distributed optimization approaches significantly compromises optimization accuracy. In this paper, we propose to redesign and tailor gradient methods for differentially-private distributed optimization, and propose two differential-privacy oriented gradient methods that can ensure both rigorous epsilon-differential privacy and optimality. The first algorithm is based on static-consensus based gradient methods, and the second algorithm is based on dynamic-consensus (gradient-tracking) based distributed optimization methods and, hence, is applicable to general directed interaction graph topologies. Both algorithms can simultaneously ensure almost sure convergence to an optimal solution and a finite privacy budget, even when the number of iterations goes to infinity. To our knowledge, this is the first time that both goals are achieved simultaneously. Numerical simulations using a distributed estimation problem and experimental results on a benchmark dataset confirm the effectiveness of the proposed approaches.

연구 동기 및 목표

• 공유되는 기울기와 변수로 인해 민감한 데이터가 泄露될 수 있는 분산 최적화 환경에서 개별 에이전트의 개인정보 보호 문제를 해결하는 데 초점한다.
• 기존 분산 방법에서 미분적 보안과 최적화 정확도 사이의 상충 관계를 극복한다.
• 일반적인 방향성 그래프 구조에서 $\epsilon$-미분적 보안과 거의 확실한 최적 해 수렴을 보장하는 기울기 방법을 설계한다.
• 무한 반복에 이르더라도 통신 오버헤드를 최소화하고 유한한 보안 예산을 확보하면서 개인정보 보호가 가능한 분산 최적화를 가능하게 한다.

제안 방법

• 고정된 스텝 사이즈와 기울기 업데이트 시 노이즈 주입을 통해 $\epsilon$-미분적 보안과 수렴성을 보장하는 정적-합의 기반의 미분적 보안 기반 기울기 방법을 제안한다.
• 일반적인 방향성 상호작용 그래프를 지원하며, 철저히 설계된 노이즈 스케일링을 통해 보안을 유지하는 동적-합의(기울기 추적) 기반 방법을 도입한다.
• 목표 갭, 합의 오차, 기울기 추적 오차를 추적하는 복합 벡터 $\mathbf{v}^{k}$를 사용한 리아푸노프 유형 분석을 통해 수렴성을 입증한다.
• 오차 항의 진화를 분석하기 위해 행렬 $V^k$, $A^k$, $H^k$, $B^k$를 사용한 재귀 기대값 경계를 유도한다.
• 노이즈와 오차 항의 합계 가능성을 보장하기 위해 스텝 사이즈 수열 $\gamma_1^k$, $\gamma_2^k$, $\alpha^k$에 조건을 적용하여 거의 확실한 수렴을 가능하게 한다.
• 국소 기울기 민감도에 비례하는 노이즈를 주입하는 보안 메커니즘을 사용하여, 무한 반복 동안에도 유한한 보안 예산($\epsilon$)을 확보한다.

실험 결과

연구 질문

• RQ1 무한 반복 조건에서도 최적 해로의 수렴성을 포기하지 않고도 분산 최적화에 대해 미분적 보안을 달성할 수 있는가?
• RQ2 기울기 기반 분산 최적화는 어떻게 재설계되어야 하며, 엄밀한 $\epsilon$-미분적 보안과 최적성 양자를 동시에 확보할 수 있는가?
• RQ3 개인정보 보호 기반 분산 최적화는 균형 잡힌 그래프 외에도 일반적인 방향성 통신 그래프로 확장될 수 있는가?
• RQ4 무한 반복 조건에서 유한한 보안 예산과 거의 확실한 수렴을 동시에 확보하기 위해 스텝 사이즈 및 노이즈 스케일링 정책은 어떻게 설정되어야 하는가?

주요 결과

• 제안된 정적-합의 기반 방법은 무방향 또는 균형 잡힌 그래프에서 $\epsilon$-미분적 보안과 거의 확실한 최적 해 수렴을 보장한다.
• 동적-합의 기반 방법은 정적-합의 방법의 한계를 극복하고 일반적인 방향성 그래프로 보안 및 수렴 보장을 확장한다.
• 두 알고리즘 모두 반복 수가 무한에 가까워져도 유한한 보안 예산($\epsilon$)을 유지한다. 이는 이전 연구에 비해 핵심적인 발전이다.
• 수렴 분석을 통해 $\lambda^k \|\bar{y}^{k+1} - \bar{g}^{k+1}\|^2$ 가 거의 확실하게 합계 가능함을 입증하여 기울기 추적 오차가 시간이 지남에 따라 감소함을 보장한다.
• 분산 추정 문제와 기준 데이터셋에 대한 수치 시뮬레이션을 통해, 이 방법이 개인정보 보호와 최적화 정확도 사이의 균형을 효과적으로 확보함을 확인하였다.
• 노이즈 주입 메커니즘은 기울기 추정의 민감도를 제어함으로써, 무한 반복 조건에서도 보안 예산이 유한하고 유계임을 보장한다.