[论文解读] Superlinearly Convergent Asynchronous Distributed Network Newton Method

Fatemeh Mansoori, Ermin Wei|arXiv (Cornell University)|May 10, 2017

Distributed Control Multi-Agent Systems参考文献 28被引用 7

一句话总结

该论文提出了一种异步分布式网络牛顿法，针对惩罚型一致性优化问题，实现了几乎必然的全局线性收敛以及在期望下的局部超线性（二次）收敛。通过采用矩阵分裂法近似海森逆矩阵，并引入一种不依赖最优值的新型步长规则，该算法克服了先前异步方法的局限性，后者或仅实现次线性收敛，或需要有界延迟假设。

ABSTRACT

The problem of minimizing a sum of local convex objective functions over a networked system captures many important applications and has received much attention in the distributed optimization field. Most of existing work focuses on development of fast distributed algorithms under the presence of a central clock. The only known algorithms with convergence guarantees for this problem in asynchronous setup could achieve either sublinear rate under totally asynchronous setting or linear rate under partially asynchronous setting (with bounded delay). In this work, we built upon existing literature to develop and analyze an asynchronous Newton based approach for solving a penalized version of the problem. We show that this algorithm converges almost surely with global linear rate and local superlinear rate in expectation. Numerical studies confirm superior performance against other existing asynchronous methods.

研究动机与目标

• 开发一种用于在无中心时钟的网络中最小化局部凸函数之和的异步分布式优化算法。
• 在存在任意延迟的情况下，实现比现有异步方法更快的收敛速度。
• 将二阶方法（牛顿型）扩展至完全异步设置，并提供理论收敛保证。
• 在步长选择中消除对未知最优函数值的依赖，提升实际可部署性。
• 通过数值实验表明，与异步ADMM和gossip算法相比，该方法具有更优的收敛速度。

提出的方法

• 该算法采用一致性问题的惩罚型公式，最小化一个包含二次一致性项和局部凸函数的组合。
• 应用矩阵分裂技术来近似海森逆矩阵，从而实现牛顿步长的分布式计算。
• 引入一种新型步长规则，无需知晓最优函数值，提升了实际部署的可行性。
• 该方法完全异步运行，各代理可独立更新，且延迟任意。
• 收敛性分析通过引入一个涉及对角缩放矩阵的变换变量，实现动态解耦并分析误差衰减。
• 理论保证包括几乎必然收敛，以及在有限时间后实现期望下的局部二次收敛速率。

实验结果

研究问题

• RQ1 在具有任意延迟的完全异步网络环境中，分布式牛顿型方法能否实现超线性收敛？
• RQ2 在分布式、异步环境中，如何高效且稳定地近似海森逆矩阵？
• RQ3 能否设计一种不依赖于未知最优函数值的步长规则？
• RQ4 该算法的收敛行为如何？具体而言，其全局线性收敛与局部超线性收敛速率如何？
• RQ5 在实际应用中，与ADMM和gossip算法等现有异步方法相比，该方法表现如何？

主要发现

• 所提出的异步网络牛顿法在期望下实现了几乎必然的全局线性收敛。
• 在有限时间后，该算法在期望下实现了局部超线性（二次）收敛速率，如误差衰减率 $ \mathbb{E}[\|D(r-1)^{1/2}(x(r)-x^*)\|] \leq C \cdot (\text{error})^{2^{r-\bar{t}}} $ 所示。
• 步长规则不依赖于最优函数值，因此比先前方法更具实用性。
• 数值结果表明，异步网络牛顿法在收敛速度上显著优于异步ADMM和gossip算法。
• 二次收敛阶段的收敛邻域非空，且依赖于初始点与最优解的距离，由 $ F(x(0)) - F^* $ 量化。
• 该算法在完全异步环境下仍保持理论保证，而先前方法需有界延迟才能实现线性收敛。