[论文解读] Exact Diffusion for Distributed Optimization and Learning --- Part II: Convergence Analysis

Kun Yuan, Bicheng Ying+2 more|arXiv (Cornell University)|Feb 16, 2017

Distributed Control Multi-Agent Systems参考文献 22被引用 6

一句话总结

该论文建立了分布式优化中Exact Diffusion算法的线性收敛速率和稳定性特性，证明其收敛速度比EXTRA方法更快，且稳定步长范围更广。通过在类似扩散的结构中引入校正步骤，该方法消除了偏差，且无需使用双随机组合矩阵，从而可广泛适用于一般网络拓扑结构。

ABSTRACT

Part I of this work [2] developed the exact diffusion algorithm to remove the bias that is characteristic of distributed solutions for deterministic optimization problems. The algorithm was shown to be applicable to a larger set of combination policies than earlier approaches in the literature. In particular, the combination matrices are not required to be doubly stochastic, which impose stringent conditions on the graph topology and communications protocol. In this Part II, we examine the convergence and stability properties of exact diffusion in some detail and establish its linear convergence rate. We also show that it has a wider stability range than the EXTRA consensus solution, meaning that it is stable for a wider range of step-sizes and can, therefore, attain faster convergence rates. Analytical examples and numerical simulations illustrate the theoretical findings.

研究动机与目标

• 分析分布式优化设置下Exact Diffusion算法的收敛性与稳定性。
• 在一般左随机组合策略下，建立Exact Diffusion的线性收敛速率。
• 证明Exact Diffusion相比EXTRA方法具有更宽的稳定性范围（即更大的允许步长）。
• 证明Exact Diffusion可在不依赖双随机矩阵的情况下实现对真实最优解的精确收敛。
• 通过解析示例和数值仿真验证理论结果。

提出的方法

• 该算法采用三步结构：适应、校正和组合，其中校正步骤可消除标准扩散方法中的偏差。
• 该方法采用左随机组合矩阵A，其无需为双随机矩阵，从而可更广泛地适用于各类网络拓扑结构。
• 通过块向量形式和误差动态矩阵E_d的特征分解，开展收敛性分析。
• 通过谱半径ρ(E_d) < 1分析稳定性和收敛性，确保误差随迭代次数指数衰减至零。
• 利用左随机矩阵A的Perron向量p及对角矩阵P = diag(p)定义加权方案。
• 通过推导并比较两者误差动态矩阵的特征值结构，将Exact Diffusion与EXTRA方法进行对比分析。

实验结果

研究问题

• RQ1 在一般左随机组合策略下，Exact Diffusion算法是否能实现线性收敛？
• RQ2 与EXTRA方法相比，Exact Diffusion的稳定性范围（即允许的步长范围）如何？
• RQ3 Exact Diffusion能否在不使用双随机组合矩阵的情况下实现精确收敛？
• RQ4 Exact Diffusion的精确线性收敛速率是多少？其如何依赖于网络拓扑结构和步长？
• RQ5 Exact Diffusion中的校正步骤如何消除标准扩散算法中固有的偏差？

主要发现

• Exact Diffusion实现线性收敛，其谱半径ρ(E_d) < 1，确保误差呈指数衰减至零。
• 与EXTRA方法相比，该算法在更广范围的步长下保持稳定与收敛，尤其在μσ² < 1时表现更优。
• 当步长μ满足0 < μσ² < 1时，误差动态矩阵E_d的所有特征值均位于单位圆内，从而保证收敛。
• 当μσ² ≥ 1 + a时，EXTRA方法因存在模大于1的特征值而变得不稳定，而Exact Diffusion仍保持稳定。
• 由于具有更大的稳定步长区域，Exact Diffusion的收敛速率快于EXTRA方法，该结论通过特征值分析得到理论验证。
• Exact Diffusion中的校正步骤有效消除了标准扩散方法中的偏差，即使在非双随机矩阵下，也能实现对真实最优解的精确收敛。