[论文解读] Distributed Optimization of Convex Sum of Non-Convex Functions

Shripad Gade, Nitin H. Vaidya|arXiv (Cornell University)|Aug 18, 2016

Distributed Control Multi-Agent Systems参考文献 19被引用 10

一句话总结

本论文提出了一种分布式优化算法，用于最小化凸函数之和，其中每个代理持有整体目标函数的私有非凸分量。通过利用梯度Lipschitz性下的耦合一致性与投影梯度下降，该方法即使在单个函数为非凸的情况下，也能确保收敛至全局最优解，从而在分布式学习与资源分配系统中实现增强的隐私保护。

ABSTRACT

We present a distributed solution to optimizing a convex function composed of several non-convex functions. Each non-convex function is privately stored with an agent while the agents communicate with neighbors to form a network. We show that coupled consensus and projected gradient descent algorithm proposed in [1] can optimize convex sum of non-convex functions under an additional assumption on gradient Lipschitzness. We further discuss the applications of this analysis in improving privacy in distributed optimization.

研究动机与目标

• 将分布式优化扩展至单个目标函数为非凸但其和为凸的情形。
• 通过允许代理将其函数的不同分量与不同邻居共享，实现隐私保护的分布式优化。
• 在放宽的凸性假设下，证明分布式算法（算法1）的收敛性，仅需满足梯度Lipschitz性和强连通性。
• 为分布式机器学习与优化中的隐私增强策略建立理论基础。
• 将收敛结果推广至$Q$-连通通信拓扑，放宽对严格连通性的要求。

提出的方法

• 代理使用结合耦合一致性与投影梯度下降的分布式协议，以最小化由非凸局部函数组成的全局凸目标函数。
• 每个代理仅使用其私有函数的一个分量执行本地梯度下降，并将不同的状态更新与不同的邻居共享。
• 该算法使用双随机矩阵$B_k$以确保代理间的一致性，权重选择以维持网络连通性。
• 通过类似李雅普诺夫的分析证明收敛性，表明迭代平均$\bar{x}_k$收敛至最优解集$\mathcal{X}^*$。
• 该方法允许$Q$-连通拓扑，即代理每$Q$次迭代至少通信一次，从而扩展至间歇性网络的适用性。
• 通过将单个函数划分为非凸分量，实现隐私增强，使得任一代理均无法重构其他代理的完整目标函数。

实验结果

研究问题

• RQ1 当单个函数为非凸但其和为凸时，分布式优化能否收敛至全局最小值？
• RQ2 在不依赖单个函数凸性的情况下，耦合一致性与投影梯度下降算法是否仍能保持收敛性，仅依赖梯度Lipschitz性？
• RQ3 通过将私有函数划分为非凸分量并仅共享部分梯度，能否在分布式优化中实现隐私保护？
• RQ4 在$Q$-连通通信拓扑下，算法性能如何表现，即并非每一步都保持完全连通？
• RQ5 能否通过随机函数共享作为隐私保护机制，而不改变全局目标函数？

主要发现

• 在总函数$f(x)$为凸且各单个梯度为Lipschitz连续的假设下，该算法收敛至最优解集$\mathcal{X}^*$。
• 迭代平均$\bar{x}_k$收敛至最优解，且满足$\liminf_{k\to\infty} f(\bar{x}_k) = f(x^*)$。
• 所有代理渐近地就同一迭代向量达成一致，确保网络中的一致性。
• 即使通信图仅为$Q$-连通（即并非每一步都完全连通），收敛结果依然成立。
• 函数划分使得代理可向不同邻居共享不同的状态更新，防止重构其他代理的私有目标函数。
• 随机函数共享在保持全局目标不变的同时增强隐私，因为所有修改后函数之和仍等于原始总和。