[논문 리뷰] Differentially Private Distributed Optimization

Zhenqi Huang, Sayan Mitra외 1명|arXiv (Cornell University)|2014. 01. 12.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 개인의 비용 함수의 기밀성을 유지하면서도, 에이전트들이 국소적인 볼록 비용 함수의 합을 공동으로 최소화하는 분산 최적화 알고리즘을 제안한다. 점점 감소하는 분산을 갖는 라플라스 노이즈를 도입하고, 점점 감소하는 스텝 사이즈를 사용함으로써, 알고리즘은 $\epsilon$-차별적 비밀유지 보장과 최적 해로의 수렴을 보장하며, 정확도는 $\epsilon^2$에 반비례한다. 노이즈와 스텝 사이즈 감쇠 비율을 정교하게 조절함으로써, 비밀성과 수렴성의 균형을 이루며, 비밀성-정확도 트레이드오프에 대한 이론적 경계를 설정한다.

ABSTRACT

In distributed optimization and iterative consensus literature, a standard problem is for $N$ agents to minimize a function $f$ over a subset of Euclidean space, where the cost function is expressed as a sum $\sum f_i$. In this paper, we study the private distributed optimization (PDOP) problem with the additional requirement that the cost function of the individual agents should remain differentially private. The adversary attempts to infer information about the private cost functions from the messages that the agents exchange. Achieving differential privacy requires that any change of an individual's cost function only results in unsubstantial changes in the statistics of the messages. We propose a class of iterative algorithms for solving PDOP, which achieves differential privacy and convergence to the optimal value. Our analysis reveals the dependence of the achieved accuracy and the privacy levels on the the parameters of the algorithm. We observe that to achieve $ε$-differential privacy the accuracy of the algorithm has the order of $O(\frac{1}{ε^2})$.

연구 동기 및 목표

• 에이전트들이 개인 비용 함수의 기밀성을 보호하면서도 전역 비용 함수를 최소화하는 비밀유지 분산 최적화 문제(PDOP)를 해결하기 위해.
• 중앙 기관이나 개인 비용 함수의 템플릿에 의존하지 않고도 완전히 분산형이며 반복적인 알고리즘을 설계하기 위해.
• 수렴성, 비밀유지 수준($\epsilon$-차별적 비밀유지), 알고리즘 파라미터에 따른 정확성에 대한 이론적 보장을 수립하기 위해.
• 비밀유지($\epsilon$)와 정확성 간의 트레이드오프를 분석하여, 정확도가 $O(1/\epsilon^2)$로 스케일링됨을 보여주기 위해.

제안 방법

• 에이전트들이 시간이 지남에 따라 감소하는 분산을 갖는 라플라스 분포에서 샘플된 노이즈를 포함한 국소 상태의 추정치를 반복적으로 방송한다.
• 각 에이전트는 현재의 통신 그래프에 기반해 이웃 에이전트들의 노이즈가 포함된 방송을 가중 평균으로 계산한다.
• 에이전트는 감소하는 스텝 사이즈 $\gamma_t = cq^{t-1}$를 사용하여 자신의 비용 함수의 그래디언트에 대해 반대로 업데이트한다.
• 노이즈 분산 $M_t$는 $M_t = 2C_2\sqrt{n}\frac{cp}{\epsilon(p-q)}p^{t-1}$로 감쇠하여 비밀성과 수렴성을 보장한다.
• 감도 기반 접근법을 사용하여 $\epsilon$-차별적 비밀유지를 보장하며, 감도는 개인 비용 함수의 변화에 의해 유계된다.
• 노이즈와 스텝 사이즈의 지수 감쇠를 사용하여 예상 제곱 오차 $S(t) = \mathbb{E}\|\bar{x}(t) - x^*\|^2$의 재귀적 경계를 구함으로써 수렴성을 증명한다.

실험 결과

연구 질문

• RQ1 모든 메시지를 관찰하는 적대자가 개인 비용 함수를 유추할 수 없도록 하면서, 어떻게 에이전트들이 전역 비용 함수를 공동으로 최소화할 수 있는가?
• RQ2 차별적 비밀유지 수준($\epsilon$)과 최적 해로의 수렴 정확도 사이의 트레이드오프는 어떠한가?
• RQ3 시간이 지남에 따라 노이즈와 스텝 사이즈를 어떻게 조정해야 분산 환경에서 비밀성과 수렴성을 동시에 확보할 수 있는가?
• RQ4 완전히 분산형이며 리더가 없는 알고리즘이 중앙 집중식 조율자나 네트워크 토폴로지 지식 없이도 차별적 비밀유지와 수렴성을 달성할 수 있는가?

주요 결과

• 시간에 따라 변화하는 척도를 갖는 라플라스 노이즈를 통해 메시지의 감도를 정교하게 제어함으로써 알고리즘이 $\epsilon$-차별적 비밀유지를 달성한다.
• 유계 도메인과 강한 볼록성 가정 하에 최적 해로의 수렴이 보장되며, 예상 제곱 오차 $\mathbb{E}\|\bar{x}(t) - x^*\|^2$는 $\epsilon$를 포함한 경계로 수렴한다.
• 알고리즘의 정확도는 $O(1/\epsilon^2)$로 스케일링되며, 이는 높은 비밀성($\epsilon \to 0$)일수록 정확도가 제곱적으로 악화됨을 의미한다.
• 한계 예상 오차의 상한에는 세 가지 항이 포함된다: 초기 오차 감쇠($2C_1 e^{-C_3c/(1-q)}$), 스텝 사이즈 오차($C_2^2 c^2 / (1 - q^2)$), 노이즈 유도 오차($8C_2^2 n c^2 p^2 / (\epsilon^2 (p - q)^2 (1 - p^2))$).
• 노이즈 감쇠 비율 $p$와 스텝 사이즈 감쇠 비율 $q$는 수렴성과 비밀성을 보장하기 위해 $p < 1$, $q < 1$, $p > q$를 만족하도록 선택되어야 한다.