[论文解读] Descent With Approximate Multipliers is Enough: Generalising Max-Weight

Víctor Valls, Douglas J. Leith|arXiv (Cornell University)|Nov 8, 2015

Advanced Wireless Network Optimization参考文献 16被引用 4

一句话总结

该论文通过证明使用近似乘子的下降法足以使凸优化中的解收敛至最优解的邻域，从而将最大权重调度推广。该研究将梯度下降、块坐标下降及非同步更新等下降方法扩展至离散动作和排队系统，利用斯科罗霍德表示法将队列增量与乘子近似误差关联起来。

ABSTRACT

We study the use of approximate Lagrange multipliers and discrete actions in solving convex optimisation problems. We observe that descent, which can be ensured using a wide range of approaches (gradient, subgradient, Newton, etc.), is orthogonal to the choice of multipliers. Using the Skorokhod representation for a queueing process we show that approximate multipliers can be constructed in a number of ways. These observations lead to the generalisation of (i) essentially any descent method to encompass use of discrete actions and queues and (ii) max-weight scheduling to encompass new descent methods including those with unsynchronised updates such as block coordinate descent. This also allows consideration of communication delays and of updates at varying time-scales within the same clean and consistent framework.

研究动机与目标

• 将最大权重调度推广至传统排队网络之外，通过将下降过程与乘子选择解耦。
• 在保持收敛性的同时，使凸优化中可使用离散动作和近似乘子。
• 通过近似乘子统一各类下降方法（梯度法、次梯度法、块坐标下降法）于同一框架下。
• 使用基本方法分析在通信延迟和非同步更新下的收敛性，无需流体极限或福斯特-拉普诺夫理论。
• 通过斯科罗霍德度量，建立队列增量与乘子近似误差之间的严格联系。

提出的方法

• 使用斯科罗霍德表示法建模排队过程，并将队列增量与拉格朗日乘子近似误差关联起来。
• 引入时变凸优化框架，通过任意标准方法（梯度法、次梯度法、牛顿法）确保下降。
• 采用次梯度的运行平均来控制近似误差，推广了最大权重方法的思路。
• 应用离散动作集（例如从有限方向集中选择），并在非同步更新下证明收敛性。
• 利用向量不等式和范数界，通过凸性和有界性，对对偶间隙和乘子误差进行上界估计。
• 通过近似乘子与次梯度内积的有界性，证明解收敛至最优解的某个球形邻域。

实验结果

研究问题

• RQ1 使用近似乘子的下降法是否能确保凸优化中的收敛性，且不依赖于所用的下降方法？
• RQ2 如何在保持收敛性保证的前提下，将离散动作融入下降方法中？
• RQ3 在存在近似误差的情况下，何种条件可使非同步更新（如块坐标下降）实现收敛？
• RQ4 斯科罗霍德度量如何将近似乘子的精度与队列增量差异联系起来？
• RQ5 最大权重框架能否推广至包含非梯度下降方法和非均匀更新时间的场景？

主要发现

• 无论使用何种下降方法，使用近似乘子的下降法均可确保收敛至最优解的 $ O(1/k) $ 邻域内。
• 论文证明了在非同步更新下，块坐标下降及其他离散动作方法仍可收敛，从而扩展了其适用范围。
• 通过排队过程构造的近似乘子被证明收敛至真实的对偶最优解，其误差受斯科罗霍德度量控制。
• 对偶间隙的上界为 $ O(1/k) $，乘子误差 $ \norm{\boldsymbol{\nu}_k^\bullet - \boldsymbol{\nu}^*}_{\text{infty}} $ 的上界也为 $ O(1/k) $，从而确保收敛。
• 该框架允许通信延迟和更新时间尺度的差异，只要近似误差有界，收敛性即可保持。
• 状态偏差范数的上界为 $ \norm{\boldsymbol{S}_k}_{\text{infty}} \leq (|D|-1)\underline{S} $，该界控制了对偶变量近似中的误差。