[论文解读] A Distributed Newton Method for Network Utility Maximization

Ermin Wei, Asuman Ozdaglar+1 more|arXiv (Cornell University)|May 14, 2010

Distributed Control Multi-Agent Systems参考文献 30被引用 6

一句话总结

本文提出了一种用于网络效用最大化（NUM）的分布式牛顿型算法，通过使用迭代、去中心化的矩阵分裂方法计算牛顿方向，并采用基于不精确牛顿下降量的分布式步长规则，实现了超线性收敛。该方法保持了与一阶方法相同的通信模式，同时显著提升了收敛速度，即使在有限精度计算误差下依然有效。

ABSTRACT

Most existing work uses dual decomposition and subgradient methods to solve Network Utility Maximization (NUM) problems in a distributed manner, which suffer from slow rate of convergence properties. This work develops an alternative distributed Newton-type fast converging algorithm for solving network utility maximization problems with self-concordant utility functions. By using novel matrix splitting techniques, both primal and dual updates for the Newton step can be computed using iterative schemes in a decentralized manner with limited information exchange. Similarly, the stepsize can be obtained via an iterative consensus-based averaging scheme. We show that even when the Newton direction and the stepsize in our method are computed within some error (due to finite truncation of the iterative schemes), the resulting objective function value still converges superlinearly to an explicitly characterized error neighborhood. Simulation results demonstrate significant convergence rate improvement of our algorithm relative to the existing subgradient methods based on dual decomposition.

研究动机与目标

• 解决现有对偶分解和一阶方法在求解大规模NUM问题时收敛速度缓慢的问题。
• 开发一种分布式二阶方法，实现比一阶方法更快的收敛速度，同时保持去中心化信息交换。
• 通过迭代方案和一致性算法，实现在去中心化方式下计算牛顿方向和步长。
• 分析在不精确牛顿方向和步长计算下的收敛性，证明其可实现超线性收敛至误差邻域。
• 设计一种分布式误差检查机制，确保在迭代计算被截断为有限精度时仍能保证收敛。

提出的方法

• 通过引入松弛变量和对数障碍函数，将不等式约束的NUM问题转化为等式约束问题。
• 采用一种新颖的矩阵分裂技术，将牛顿步长所需的海森矩阵求逆分解为源与链路之间的去中心化、迭代更新。
• 实现一种分布式步长规则，当不精确牛顿下降量超过阈值时，其与之成反比；否则使用纯牛顿步长。
• 通过与一阶方法相同的通信机制，基于一致性过程计算不精确牛顿下降量。
• 引入一种两阶段分布式误差检查方法：第一阶段使用预定迭代次数验证误差容限，第二阶段使用有限次迭代准则进行精炼。
• 使用最大一致性算法计算局部范数和状态差异的全局最大值，从而实现误差度量的去中心化计算。

实验结果

研究问题

• RQ1 能否为NUM问题设计一种分布式牛顿型方法，使其保持与一阶方法相同的通信模式？
• RQ2 如何在不需全局矩阵求逆的情况下，以去中心化方式计算牛顿方向？
• RQ3 当牛顿方向和步长均以误差形式计算时，何种步长规则可确保局部超线性收敛？
• RQ4 在用于计算牛顿方向和步长的迭代方案被有限截断时，能否保证收敛？
• RQ5 如何在去中心化且有限时间内检查不精确牛顿步长的误差容限？

主要发现

• 所提出的算法即使在牛顿方向和步长计算存在不精确性的情况下，仍能实现目标函数值向显式表征的误差邻域的超线性收敛。
• 在原始迭代次数上，收敛速度为超线性，仿真结果显著优于一阶对偶分解方法。
• 误差邻域的大小被显式量化为牛顿方向和步长计算误差界之函数。
• 分布式误差检查过程可在有限时间内终止，且仅需本地信息交换和一致性算法即可实现。
• 该方法在第一阶段仅需两次最大一致性操作，第二阶段每轮迭代需一次，从而支持高效去中心化实现。
• 信息交换的通信模式与一阶方法完全相同，确保了可扩展性和实际可部署性。