[论文解读] Privacy-preserving Decentralized Optimization via Decomposition
本文提出了一种基于近端雅可比 ADMM 框架内函数分解的隐私保护去中心化优化方法，可在无需噪声或加密的情况下实现精确收敛。该方法通过分解本地目标函数，保护代理（子）梯度免受诚实但好奇的攻击者窥探，确保通信过程中无信息泄露，同时保持算法最优性与较低的计算开销。
This paper considers the problem of privacy-preservation in decentralized optimization, in which $N$ agents cooperatively minimize a global objective function that is the sum of $N$ local objective functions. We assume that each local objective function is private and only known to an individual agent. To cooperatively solve the problem, most existing decentralized optimization approaches require participating agents to exchange and disclose estimates to neighboring agents. However, this results in leakage of private information about local objective functions, which is undesirable when adversaries exist and try to steal information from participating agents. To address this issue, we propose a privacy-preserving decentralized optimization approach based on proximal Jacobian ADMM via function decomposition. Numerical simulations confirm the effectiveness of the proposed approach.
研究动机与目标
- 解决去中心化优化中代理在共识过程中共享（子）梯度所导致的隐私泄露问题。
- 消除差分隐私方法固有的隐私-准确率权衡。
- 避免基于加密方法带来的高计算与通信开销。
- 实现在不依赖可信第三方或聚合器的前提下实现隐私保护。
- 确保即使诚实但好奇的攻击者也无法从交换的数据中推断出私有的（子）梯度。
提出的方法
- 将每个代理的本地目标函数分解为若干分量函数，以隐藏原始（子）梯度结构。
- 采用近端雅可比 ADMM 算法，以分布式方式求解去中心化优化问题。
- 各代理仅交换其目标函数的分解分量，而非原始的（子）梯度。
- 分解机制确保相邻代理无法从交换的信息中重构出原始的私有（子）梯度。
- 在标准凸性假设下，该算法可收敛至真实最优解。
- 理论分析证明，即使攻击者观察到多个迭代周期内所有交换的消息，也无法推断出私有的（子）梯度。
实验结果
研究问题
- RQ1能否在不损害解的准确性前提下，使去中心化优化具备隐私保护能力？
- RQ2能否在不添加噪声或使用加密的情况下实现隐私保护？
- RQ3在去中心化 ADMM 框架中，诚实但好奇的攻击者能否从交换的消息中推断出私有的（子）梯度？
- RQ4函数分解是否能同时实现隐私保护与收敛至真实最优解？
- RQ5所提出的隐私保护方法的计算与通信开销如何？
主要发现
- 所提方法在误差为 $5.1 \times 10^{-4}$ 的前提下，收敛至真实最优解 $[0.35; 0.45]$，证实了其高精度。
- 数值仿真表明，基于差分隐私的方法存在隐私与准确率之间的根本性权衡，而本方法避免了该问题。
- 该方法可保证对观察到所有交换消息的诚实但好奇的攻击者提供隐私保护。
- 理论分析证实，该算法在标准凸性假设下可收敛至最优解。
- 与加密或噪声方法相比，该方法的计算与通信开销极低。
- 收敛速率得以保持，满足 $\|\bm{x}^k - \bm{x}^*\|_Q \to 0$ 当 $k \to \infty$，确保了最优性。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。