[论文解读] Distributed Semidefinite Programming with Application to Large-scale System Analysis

Sina Khoshfetrat Pakazad, Anders Hansson+2 more|arXiv (Cornell University)|Apr 29, 2015

Water resources management and optimization被引用 4

一句话总结

该论文提出了一种用于求解具有树状耦合结构的大型半定规划（SDPs）的分布式原始-对偶内点法。通过在团树上进行消息传递，以有限步数精确计算搜索方向，该算法实现了二次收敛，且每次迭代的计算成本较低——每台代理每次迭代仅需分解小矩阵并通信12次，数值实验表明其在大规模鲁棒性分析问题上的效率显著优于一阶方法。

ABSTRACT

Distributed algorithms for solving coupled semidefinite programs (SDPs) commonly require many iterations to converge. They also put high computational demand on the computational agents. In this paper we show that in case the coupled problem has an inherent tree structure, it is possible to devise an efficient distributed algorithm for solving such problems. This algorithm can potentially enjoy the same efficiency as centralized solvers that exploit sparsity. The proposed algorithm relies on predictor-corrector primal-dual interior-point methods, where we use a message-passing algorithm to compute the search directions distributedly. Message-passing here is closely related to dynamic programming over trees. This allows us to compute the exact search directions in a finite number of steps. Furthermore this number can be computed a priori and only depends on the coupling structure of the problem. We use the proposed algorithm for analyzing robustness of large-scale uncertain systems distributedly. We test the performance of this algorithm using numerical examples.

研究动机与目标

• 为解决一阶分布式算法在大规模SDPs中收敛缓慢且每轮计算负载高的局限性。
• 开发一种利用耦合SDPs中固有的树状结构来实现高效且精确的搜索方向计算的分布式算法。
• 通过受启发于动态规划的消息传递方法，将原始-对偶内点迭代分布化，以减轻每台代理的计算负担。
• 以分布式、可扩展且高效的方式实现对大规模互联不确定系统的鲁棒性分析。
• 证明在树上进行有限步消息传递可实现精确的搜索方向计算，且其复杂度可事先确定。

提出的方法

• 该算法采用预测-校正原始-对偶内点法，通过树状计算图在各代理间分布计算任务。
• 搜索方向通过一种与团树表示的SDP稀疏模式上的非串行动态规划密切相关的消息传递算法计算。
• 消息传递过程在有限步数内计算出精确的搜索方向，步数上限由树的高度决定，且与问题规模无关。
• 每台代理每次迭代仅执行一次矩阵分解，并与邻居通信恰好12次，最大限度降低计算开销。
• 该方法利用弦图稀疏性与团树分解，将耦合的SDP重写为适合并行计算的分布式形式。
• 该算法应用于大规模互联不确定系统的鲁棒性分析，采用具有无标度网络拓扑结构的数值示例进行验证。

实验结果

研究问题

• RQ1 对于具有树状耦合结构的大规模SDPs，分布式原始-对偶内点法能否比一阶方法实现更快的收敛速度？
• RQ2 在团树上进行消息传递能否在有限步内计算出SDPs的精确搜索方向，且其复杂度可事先确定？
• RQ3 使用树结构分发原始-对偶迭代时，每台代理的每轮计算成本与通信负载是多少？
• RQ4 该算法在具有稀疏互连的大规模鲁棒性分析问题上的实际表现如何？
• RQ5 当树的高度较高且团的数量较大时，该方法能否高效扩展，同时保持二次收敛特性？

主要发现

• 对于包含579个团、树高为35的大规模示例，该算法最多仅需14轮迭代即收敛，展现出快速的二次收敛特性。
• 在最坏情况下，该算法在大规模示例中仅需5,880步，每台代理执行14次矩阵分解与168次通信。
• 对于包含198个子问题、树高为9的较小示例，收敛发生在12轮迭代内，总共需14,256步。
• 每台代理所需步数有界且可事先计算，仅取决于树高，与问题规模无关。
• 收敛行为与标准集中式原始-对偶方法高度一致，数值结果中清晰观察到二次收敛阶段。
• 通过消息传递实现了精确的搜索方向计算，避免了一阶方法存在的近似误差与收敛缓慢问题。