[论文解读] Distributed Finite-time Least Squares Solver for Network Linear Equations

Tao Yang, Jemin George+3 more|arXiv (Cornell University)|Sep 29, 2018

Distributed Control Multi-Agent Systems被引用 7

一句话总结

本文提出了一种用于网络化线性方程组的分布式有限时间最小二乘求解器，采用去中心化计算机制，使任意节点都能在有限时间内计算出最小二乘解。该方法在无向图上确保指数收敛，并可扩展至有向图，即使底层算法发散也能保持有效性。

ABSTRACT

In this paper, we study the problem of finding the least square solutions of over-determined linear algebraic equations over networks in a distributed manner. Each node has access to one of the linear equations and holds a dynamic state. We first propose a distributed least square solver over undirected interaction graphs, for which we establish the conditions on the interaction graphs and the step-size under which the proposed algorithm exponentially converges to the least square solution. Next, we develop a finite-time least square solver by equipping the proposed algorithm with a finite-time decentralized computation mechanism. The proposed finite-time computation mechanism enables an arbitrarily chosen node to compute the least square solution in a finite number of time steps, by using its own local successive state values obtained from the underlying algorithm. Finally, we discuss how to extend the proposed algorithm to directed interaction graphs and how the finite-time computation mechanism computes the least square solution even when the underlying algorithms diverge. The theoretical findings are validated and illustrated by numerical simulation examples.

研究动机与目标

• 开发一种用于在网络中有限时间内求解超定线性系统的分布式算法。
• 确保在无向交互图上指数收敛至最小二乘解。
• 设计一种有限时间去中心化计算机制，使任意节点仅通过其本地状态历史即可计算出解。
• 将该框架扩展至有向交互图，即使底层算法发散，仍能保持有限时间解的计算能力。
• 通过数值仿真验证理论结果。

提出的方法

• 本文提出一种在无向交互图上运行的分布式最小二乘求解器，其中每个节点持有单个方程，并通过本地信息交换更新其状态。
• 建立了关于交互图结构和步长的条件，以保证指数收敛至最小二乘解。
• 将有限时间计算机制集成到算法中，使任意节点能够仅使用其自身本地状态轨迹，在有限步数内计算出解。
• 该机制依赖于底层算法的连续状态值，以触发终止并输出解。
• 通过修改更新规则，将该方法扩展至有向图，以处理非对称信息流。
• 理论分析表明，即使底层算法发散，只要正确应用有限时间机制，仍可实现有限时间收敛。

实验结果

研究问题

• RQ1 在何种条件下，分布式最小二乘求解器在无向图上实现指数收敛？
• RQ2 如何设计一种有限时间计算机制，以实现从本地状态序列中有限时间恢复解？
• RQ3 当底层算法在有向图上发散时，有限时间机制是否仍能产生正确解？
• RQ4 为将算法扩展至有向交互图，需要进行哪些修改，同时保持有限时间收敛性？
• RQ5 在存在非对称通信拓扑的情况下，有限时间机制如何维持精度与收敛性？

主要发现

• 在交互图结构和步长满足适当条件时，所提出的分布式最小二乘求解器可实现对最小二乘解的指数收敛。
• 有限时间计算机制使任意节点仅通过其本地状态历史，即可在有限步数内计算出精确的最小二乘解。
• 即使在有向图上底层算法发散，该机制仍保持有效，确保有限时间解的恢复。
• 理论分析证实，通过利用状态轨迹的结构，可在有向图上实现有限时间收敛。
• 数值仿真验证了理论发现，展示了在各种网络拓扑下准确且有限时间的解计算。