[论文解读] A Fast Distributed Asynchronous Newton-Based Optimization Algorithm

Fatemeh Mansoori, Ermin Wei|arXiv (Cornell University)|Jan 4, 2019

Distributed Control Multi-Agent Systems参考文献 49被引用 5

一句话总结

本文提出了一种用于在联网系统中最小化局部凸函数之和的异步分布式牛顿优化算法。通过利用二阶信息并允许各 agent 使用过时数据独立更新，该方法在期望下实现了几乎必然收敛，且具有全局线性收敛率和局部二次收敛率，数值实验结果表明其优于现有异步方法。

ABSTRACT

One of the most important problems in the field of distributed optimization is the problem of minimizing a sum of local convex objective functions over a networked system. Most of the existing work in this area focus on developing distributed algorithms in a synchronous setting under the presence of a central clock, where the agents need to wait for the slowest one to finish the update, before proceeding to the next iterate. Asynchronous distributed algorithms remove the need for a central coordinator, reduce the synchronization wait, and allow some agents to compute faster and execute more iterations. In the asynchronous setting, the only known algorithms for solving this problem could achieve either linear or sublinear rate of convergence. In this work, we built upon the existing literature to develop and analyze an asynchronous Newton-based method to solve a penalized version of the problem. We show that this algorithm guarantees almost sure convergence with global linear and local quadratic rate in expectation. Numerical studies confirm superior performance of our algorithm against other asynchronous methods.

研究动机与目标

• 解决同步分布式优化的局限性，后者需要中心时钟并受最慢 agent 的瓶颈影响。
• 开发一种异步分布式算法，消除协调需求并减少同步延迟。
• 在期望下实现快速收敛率——具体而言，全局线性收敛率与局部二次收敛率——用于分布式优化。
• 将牛顿方法扩展至异步设置，同时在任意延迟下确保收敛性。
• 通过在逻辑回归和合成数据上的数值研究验证该算法的优越性。

提出的方法

• 该算法使用惩罚版本的共识问题，以实现在 agent 网络上的分布式优化。
• 每个 agent 维护决策变量的本地副本，并基于其本地时钟异步更新。
• 更新规则通过 Hessian 逆的截断泰勒级数近似引入二阶（Hessian）信息。
• 该方法允许 agent 使用来自邻居的过时信息，支持具有任意延迟的完全异步性。
• 收敛性分析在均匀与非均匀激活概率下进行，对步长和惩罚参数设定边界。
• 该算法采用递减步长和一个惩罚系数 α，经调优以实现最佳性能。

实验结果

研究问题

• RQ1 基于牛顿的分布式方法是否能在无中心协调器的异步设置下实现快速收敛？
• RQ2 在期望下，异步二阶方法可保证的收敛率（线性、二次）是什么？
• RQ3 该算法在任意延迟和非均匀 agent 激活模式下表现如何？
• RQ4 在实践中，异步牛顿方法是否优于现有异步算法（如 ADMM 和 gossip）？
• RQ5 哪些参数选择（例如，步长、惩罚系数）可确保收敛性和最佳性能？

主要发现

• 所提出的异步网络牛顿算法在任意延迟和非均匀激活概率下保证几乎必然收敛。
• 该算法在期望下实现了全局线性收敛率和局部二次收敛率，相较于现有异步方法有显著改进。
• 在 diabetes-scale 数据集上的数值结果表明，异步网络牛顿方法的收敛速度优于异步 ADMM 和 gossip 算法。
• 在非均匀激活场景下，当最慢 agent 的激活概率较低时，异步算法优于同步版本。
• 即使使用过时信息，该算法仍保持性能，表现出对异步性和通信延迟的鲁棒性。
• 模拟中的横轴使用更新次数（而非迭代次数），确保与每轮迭代中更新多个 agent 的算法进行公平比较。