[论文解读] Gossip Dual Averaging for Decentralized Optimization of Pairwise Functions

Igor Colin, Aurélien Bellet+2 more|arXiv (Cornell University)|Jun 8, 2016

Distributed Control Multi-Agent Systems参考文献 27被引用 29

一句话总结

本文提出了一种用于传感器和物联网网络中成对函数去中心化优化的 gossip 双平均算法，其中每个节点仅与邻居通信。该方法通过维护对偶变量并使用有偏梯度估计，在通信受限和网络拓扑影响下，实现了接近集中式双平均的收敛速率，从而实现了高效、可扩展的全局模型学习——例如 AUC 最大化和度量学习。

ABSTRACT

In decentralized networks (of sensors, connected objects, etc.), there is an important need for efficient algorithms to optimize a global cost function, for instance to learn a global model from the local data collected by each computing unit. In this paper, we address the problem of decentralized minimization of pairwise functions of the data points, where these points are distributed over the nodes of a graph defining the communication topology of the network. This general problem finds applications in ranking, distance metric learning and graph inference, among others. We propose new gossip algorithms based on dual averaging which aims at solving such problems both in synchronous and asynchronous settings. The proposed framework is flexible enough to deal with constrained and regularized variants of the optimization problem. Our theoretical analysis reveals that the proposed algorithms preserve the convergence rate of centralized dual averaging up to an additive bias term. We present numerical simulations on Area Under the ROC Curve (AUC) maximization and metric learning problems which illustrate the practical interest of our approach.

研究动机与目标

• 解决大规模、完全分布式的网络（如物联网和传感器网络）中成对函数的去中心化优化问题。
• 开发基于 gossip 的算法，避免中心化协调，并在异步通信下运行。
• 在去中心化环境中处理成对优化问题的约束和正则化变体。
• 在通信和数据分布受限的情况下，实现与集中式双平均相当的收敛速率。

提出的方法

• 提出一种基于 gossip 的双平均框架，其中每个节点维护一个对偶变量，并使用来自本地和邻居数据的有偏梯度估计进行更新。
• 引入一种轻量级数据传播方案，以在不进行完整数据交换的情况下计算成对函数的近似梯度。
• 采用双平均更新规则，通过成对通信聚合本地对偶变量，确保收敛到一致解。
• 在同步和异步设置下分析收敛性，表明收敛误差包含一个随时间迅速减小的加法偏差项。
• 将该方法应用于 AUC 最大化和度量学习等任务，通过虚拟节点网络建模成对交互。
• 利用网络拉普拉斯矩阵的谱分析来界定收敛速率，并将其与网络连通性和拓扑结构关联。

实验结果

研究问题

• RQ1 基于双平均的 gossip 算法能否在无中心协调的情况下有效解决成对函数的去中心化优化问题？
• RQ2 在去中心化环境中，所提出的 gossip 双平均方法的收敛速率与集中式双平均相比如何？
• RQ3 网络拓扑结构和异步性对所提算法的性能和收敛性有何影响？
• RQ4 梯度估计中的偏差衰减速度如何？在实际应用中是否显著影响优化性能？
• RQ5 该算法能否以去中心化方式处理成对优化问题的约束和正则化变体？

主要发现

• 所提出的 gossip 双平均算法实现了接近集中式双平均的收敛速率，仅存在一个随迭代迅速减小的加法偏差项。
• 在 AUC 最大化和度量学习上的数值模拟显示，偏差项在高度连通网络中影响可忽略，证实其实际无关紧要。
• 该算法在 Watts-Strogatz 网络和完全图网络上表现相当，表明其对网络拓扑具有鲁棒性。
• 在合成数据和真实数据（如乳腺癌威斯康星数据集）的实验中，目标函数在 50 次运行中均稳定收敛，方差极小。
• 无论是合成数据还是真实数据，偏差项均随迭代次数迅速衰减，支持了偏差快速衰减的理论假设。
• 该方法成功实现了去中心化的度量学习和 AUC 最大化，无需数据集中化或全局协调。