[论文解读] Communication reduction in distributed optimization via estimation of the proximal operator

Giorgos Stathopoulos, Colin N. Jones|arXiv (Cornell University)|Mar 19, 2018

Numerical methods in inverse problems参考文献 11被引用 11

一句话总结

本文提出了一种通信减少框架，通过利用Moreau包络和$ε$-次微分派生的凸集来估计近端子问题的解。中央协调器维护并不断改进一个包含每个代理优化器的椭球集合，仅在认证测试确认精度不足时才触发通信，从而在微电网负荷共享案例研究中实现了超过46%的通信轮次减少，同时确保收敛。

ABSTRACT

We introduce a reduced-communication distributed optimization scheme based on estimating the solution to a proximal minimization problem. Our proposed setup involves a group of agents coordinated by a central entity, altogether operating in a collaborative framework. The agents solve proximal minimization problems that are hidden from the central coordinator. The scheme enables the coordinator to construct a convex set within which the agents' optimizers reside, and to iteratively refine the set every time that an agent is queried. We analyze the quality of the constructed sets by showing their connections to the ε-subdifferential of a convex function and characterize their size. We prove convergence results related to the solution of such distributed optimization problems and we devise a communication criterion that embeds the proposed scheme in the Alternating Direction Method of Multipliers (ADMM). The developed scheme demonstrates significant communication reduction when applied to a microgrid setting.

研究动机与目标

• 减少在代理数据必须保持私密的分布式优化中的通信开销。
• 使中央协调器能够在不直接通信的情况下估计代理的近端解。
• 开发一种认证测试，以确定何时需要通信，从而最小化冗余更新。
• 即使在近端解存在估计误差的情况下，仍确保优化过程的收敛性。
• 将适用范围从梯度方法扩展至基于ADMM的分布式求解器。

提出的方法

• 协调器利用Moreau包络及其次微分性质，构建一个包含每个代理近端问题真实优化器的凸集——具体为椭球的交集。
• 该集合通过每轮通信迭代改进，利用查询代理的梯度信息。
• 该方法利用所构建集合与Moreau包络的二次上界之$ε$-次微分之间的联系，确保在最坏情况边界意义下的最优性。
• 计算中使用该集合的近似，基于仅保留最近查询点和梯度的有限内存策略。
• 通过推导一种认证测试，将通信准则嵌入ADMM中，以检查当前估计是否足够精确，从而可跳过通信轮次。
• 该方案通过使用估计集合预测对偶变量并更新一致性变量，与ADMM耦合，且在存在误差的定点迭代下证明了收敛性。

实验结果

研究问题

• RQ1 中央协调器能否以足够高的精度估计近端子问题的解，从而在分布式优化中减少通信？
• RQ2 估计解集的质量如何通过Moreau包络和$ε$-次微分表征？
• RQ3 估计误差对收敛性有何影响，是否仍能保证收敛？
• RQ4 如何设计通信触发准则，以在通信减少与收敛速度之间取得平衡？
• RQ5 所提出的框架能否成功集成到ADMM中，可实现何种性能提升？

主要发现

• 在微电网负荷共享问题中，与标准ADMM相比，所提方案将通信轮次减少了约46%，从每代理160轮降至87轮。
• 由于早期迭代中估计误差导致的轨迹偏移，迭代次数从标准ADMM的160次增加至247次。
• 采用仅保留每代理5–10个最近查询点的有限内存方法，性能几乎与全内存版本相同，且计算开销极低。
• 每代理的平均求解时间从全内存版本的约7秒降至有限内存版本的约1秒，表明计算效率显著提升。
• 即使仅使用一个最近梯度点（M=1），性能下降也较温和，表明少量点已足以实现有效近似。
• 所构建的凸集被证明相对于未知Moreau包络函数的最紧上界是最优的。