[论文解读] Decentralized Approximate Newton Methods for In-Network Optimization

Hejie Wei, Zhihai Qu+3 more|arXiv (Cornell University)|Mar 22, 2019

Distributed Control Multi-Agent Systems参考文献 30被引用 1

一句话总结

本文提出了用于网络内凸优化的去中心化近似牛顿（DEAN）方法，使节点能够通过本地近似牛顿更新协作最小化局部目标函数之和。在局部强凸性条件下，DEAN 确保线性收敛至次优解，并提供明确的误差界；对于二次规划问题，可收敛至精确最优解，其收敛速度和精度优于以往的二阶方法。

ABSTRACT

This paper proposes a class of Decentralized Approximate Newton (DEAN) methods for addressing in-network convex optimization, where nodes in a network seek for a consensus that minimizes the sum of their individual objective functions through local interactions only. The proposed DEAN algorithms allow each node to repeatedly perform a local approximate Newton update, so that the nodes not only jointly track the global Newton direction but also drive each other closer. Under a less restrictive assumption (i.e., local strong convexity) in comparison with the existing second-order methods, the DEAN algorithms enable the nodes to reach a consensus that can be arbitrarily close to the optimum. Moreover, for a particular DEAN algorithm, the nodes linearly converge to a common suboptimal solution with an explicit error bound and we also provide the iteration complexity for the suboptimal solution to achieve any given accuracy. Furthermore, we show that when the problem reduces to a quadratic program, the DEAN algorithms are guaranteed to converge to the exact optimum at a linear rate. Finally, simulations demonstrate the competitive performance of DEAN in convergence speed, accuracy, and efficiency.

研究动机与目标

• 解决网络内凸优化问题，即节点仅通过本地交互达成对局部目标函数之和最小化的共识。
• 通过将全局强凸性假设放松为局部强凸性，克服现有二阶方法的局限性。
• 设计去中心化算法，使节点能够共同追踪全局牛顿方向，同时推动收敛至共识解。
• 在局部强凸性下实现对次优解的线性收敛并提供显式误差界，对二次规划问题实现对精确最优解的线性收敛。
• 通过仿真验证，与现有方法相比，DEAN 在收敛速度、精度和效率方面均有提升。

提出的方法

• 提出一类 DEAN 算法，其中每个节点仅使用本地信息和邻居交互，重复执行本地近似牛顿更新。
• 引入一种去中心化机制，使节点能够协作估计并追踪全局牛顿方向，无需集中协调。
• 利用本地 Hessian 近似实现二阶优化，同时保持去中心化特性。
• 在弱于全局强凸性的局部强凸性假设下，建立收敛性保证。
• 推导出特定 DEAN 算法中次优解的显式误差界，量化其与真实最优解的距离。
• 证明当问题退化为二次规划时，DEAN 算法可线性收敛至精确最优解。

实验结果

研究问题

• RQ1 去中心化二阶方法是否可在弱于全局强凸性的凸性假设下实现线性收敛？
• RQ2 网络中的节点如何仅通过本地信息和邻居通信协作近似全局牛顿方向？
• RQ3 DEAN 算法达到的解的次优性差距是多少？能否显式界定？
• RQ4 DEAN 框架是否能保证对二次规划问题的精确最优解收敛？
• RQ5 与现有去中心化优化方法相比，DEAN 的收敛速度和精度如何？

主要发现

• 在局部强凸性条件下，DEAN 算法实现对同一子优解的线性收敛，并提供显式误差界，量化其与真实最优解的距离。
• 对于二次规划问题，DEAN 算法线性收敛至精确最优解，表明在此特殊情况下实现精确全局收敛。
• 明确刻画了 DEAN 算法在达到任意给定精度时的迭代复杂度，支持性能预测。
• 仿真结果证实，与现有方法相比，DEAN 在收敛速度、精度和计算效率方面表现更优。
• 所提方法放松了对全局强凸性的要求，使其适用于更广泛的去中心化优化问题类别。
• 去中心化牛顿方向追踪机制使节点间无需集中计算或全局信息即可实现有效协调。