[论文解读] Differentially Private Distributed Optimization

Zhenqi Huang, Sayan Mitra+1 more|arXiv (Cornell University)|Jan 12, 2014

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出了一种差分隐私的分布式优化算法，其中各 agent 在保护各自局部代价函数隐私的同时，协作最小化全局代价函数的总和。通过注入方差递减的拉普拉斯噪声并使用递减的步长，该算法确保了 $\epsilon$-差分隐私，并收敛至最优解，其精度与 $\epsilon^2$ 成反比。该方法通过精心调节的噪声和步长衰减速率，在隐私与收敛性之间取得平衡，建立了隐私-精度权衡的理论边界。

ABSTRACT

In distributed optimization and iterative consensus literature, a standard problem is for $N$ agents to minimize a function $f$ over a subset of Euclidean space, where the cost function is expressed as a sum $\sum f_i$. In this paper, we study the private distributed optimization (PDOP) problem with the additional requirement that the cost function of the individual agents should remain differentially private. The adversary attempts to infer information about the private cost functions from the messages that the agents exchange. Achieving differential privacy requires that any change of an individual's cost function only results in unsubstantial changes in the statistics of the messages. We propose a class of iterative algorithms for solving PDOP, which achieves differential privacy and convergence to the optimal value. Our analysis reveals the dependence of the achieved accuracy and the privacy levels on the the parameters of the algorithm. We observe that to achieve $ε$-differential privacy the accuracy of the algorithm has the order of $O(\frac{1}{ε^2})$.

研究动机与目标

• 解决私有分布式优化问题（PDOP），即 agent 在保护个体代价函数隐私的同时最小化全局代价函数。
• 设计一种完全分布式、迭代的算法，确保差分隐私，且无需依赖中心化机构或个体代价函数的模板。
• 建立关于收敛性、隐私水平（$\epsilon$-差分隐私）以及算法参数下精度的理论保证。
• 分析隐私（$\epsilon$）与精度之间的权衡，表明精度随 $O(1/\epsilon^2)$ 变化。

提出的方法

• 各 agent 迭代广播其本地状态的带噪估计，其中噪声来自方差随时间递减的拉普拉斯分布。
• 每个 agent 根据当前通信图，基于邻居的带噪广播计算加权平均值。
• agent 通过使用递减步长 $\gamma_t = cq^{t-1}$，沿自身代价函数的梯度反向更新其本地估计。
• 噪声方差 $M_t$ 按 $M_t = 2C_2\sqrt{n}\frac{cp}{\epsilon(p-q)}p^{t-1}$ 衰减，以确保隐私与收敛性。
• 该算法采用基于敏感度的方法，确保 $\epsilon$-差分隐私，其中敏感度由个体代价函数的变化所界定。
• 通过递归界定期望平方误差 $S(t) = \mathbb{E}\|\bar{x}(t) - x^*\|^2$ 实现收敛性证明，利用噪声与步长的指数衰减。

实验结果

研究问题

• RQ1 如何使 agent 在协作最小化全局代价函数的同时，确保观察所有消息的攻击者无法推断出个体代价函数？
• RQ2 差分隐私水平（$\epsilon$）与收敛至最优解的精度之间存在何种权衡？
• RQ3 在分布式环境中，应如何随时间调节噪声与步长，以同时确保隐私与收敛性？
• RQ4 是否能够实现一种完全分布式、无主控的算法，在无需中心协调或网络拓扑知识的情况下，同时实现差分隐私与收敛？

主要发现

• 通过随时间变化的尺度控制消息的敏感度，该算法利用拉普拉斯噪声实现了 $\epsilon$-差分隐私。
• 在有界域与强凸性假设下，该算法保证收敛至最优解，且期望平方误差 $\mathbb{E}\|\bar{x}(t) - x^*\|^2$ 收敛至一个与 $\epsilon$ 相关的界。
• 该算法的精度随 $O(1/\epsilon^2)$ 变化，意味着更高的隐私保护（$\epsilon \to 0$）会导致精度的二次下降。
• 极限期望误差的上界包含三项：初始误差衰减（$2C_1 e^{-C_3c/(1-q)}$）、步长误差（$C_2^2 c^2 / (1 - q^2)$）以及噪声引起的误差（$8C_2^2 n c^2 p^2 / (\epsilon^2 (p - q)^2 (1 - p^2))$）。
• 噪声衰减率 $p$ 与步长衰减率 $q$ 必须满足 $p < 1$、$q < 1$ 且 $p > q$，以确保收敛性与隐私性。