[论文解读] Finite-Time Distributed Linear Equation Solver for Minimum $l_1$ Norm Solutions

Jingqiu Zhou, Xuan Wang+2 more|arXiv (Cornell University)|Sep 28, 2017

Matrix Theory and Algorithms参考文献 32被引用 4

一句话总结

该论文提出了一种有限时间分布式算法，用于多智能体网络在欠定情况下求解线性方程 $Ax = b$ 的最小 $l_1$-范数解。通过结合投影-一致性流与有限时间梯度动力学，该方法确保所有智能体在有限时间内达成对最小 $l_1$-范数解的一致性，其理论证明基于Filippov微分包含和广义Lie导数，仿真结果在四智能体网络上得到验证。

ABSTRACT

This paper proposes distributed algorithms for multi-agent networks to achieve a solution in finite time to a linear equation $Ax=b$ where $A$ has full row rank, and with the minimum $l_1$-norm in the underdetermined case (where $A$ has more columns than rows). The underlying network is assumed to be undirected and fixed, and an analytical proof is provided for the proposed algorithm to drive all agents' individual states to converge to a common value, viz a solution of $Ax=b$, which is the minimum $l_1$-norm solution in the underdetermined case. Numerical simulations are also provided as validation of the proposed algorithms.

研究动机与目标

• 开发一种分布式算法，实现在多智能体网络中对 $Ax = b$ 的有限时间收敛。
• 将有限时间收敛特性扩展至 $A$ 的列数多于行数的欠定情况下最小 $l_1$-范数解。
• 通过确保在有限时间内实现精确收敛，消除现有方法的渐近收敛限制。
• 利用Filippov理论和广义Lie导数，提供有限时间收敛的理论证明。
• 通过在四智能体网络上进行数值仿真，验证算法性能，涵盖不同收敛动态。

提出的方法

• 该算法基于投影-一致性流设计分布式更新规则，使每个智能体仅通过本地信息与邻居通信即可估计解。
• 通过在更新律中引入时变增益 $k(t) = \frac{\bar{\delta}}{t+1} + \delta$，实现有限时间收敛，确保快速收敛。
• 该方法利用Filippov集值映射和广义Lie导数分析动力学中由非光滑函数 $\text{sgn}(\cdot)$ 引起的微分包含。
• 首先基于有限时间梯度流在 $l_1$-范数目标函数上推导出集中式最小 $l_1$-范数解的更新，随后将其嵌入分布式框架。
• 整体分布式算法结合了有限时间一致性机制与集中式最小 $l_1$-范数求解器，确保所有智能体收敛至相同的最小 $l_1$-范数解。
• 通过 $l_1$-范数的共识偏差 $\|y(t) - \mathbf{1}_m \otimes x^*\|_1$ 验证收敛性，该值在有限时间内达到零。

实验结果

研究问题

• RQ1 在仅依赖本地通信的多智能体网络中，能否实现分布式算法对 $Ax = b$ 解的有限时间收敛？
• RQ2 在欠定系统中，如何通过分布式计算在有限时间内实现最小 $l_1$-范数解？
• RQ3 何种动力学机制可在 $l_1$-范数与 $\text{sgn}(\cdot)$ 函数非光滑性下确保有限时间收敛？
• RQ4 时变增益 $k(t)$ 如何影响分布式求解器的收敛速率与有限时间行为？
• RQ5 分布式算法的收敛时间与集中式最小 $l_1$-范数求解器之间存在何种关系？

主要发现

• 在四智能体网络中，分布式算法实现了对 $Ax = b$ 解的有限时间收敛，表现为 $\|y(t) - \mathbf{1}_m \otimes x^*\|_1$ 在有限时间内达到零。
• 集中式最小 $l_1$-范数解更新实现有限时间收敛，$\|y(t) - \bar{x}^*\|_1$ 达到零并保持为零。
• 无论 $\bar{\delta}$ 与 $\delta$ 的参数取值如何，分布式最小 $l_1$-范数解算法均在有限时间内收敛，且随着 $\delta$ 增大，收敛时间缩短。
• 增大 $\delta$ 显著加快收敛速度，而增大 $\bar{\delta}$ 也能改善收敛性能，但影响较弱。
• 分布式算法的收敛时间约为集中式情况的 $\frac{1}{\delta}$ 倍，原因在于集中式动力学被 $k(t) < 1$ 缩放。
• 智能体间达成有限时间共识，表现为 $\|y(t) - \mathbf{1}_m \otimes \bar{y}(t)\|_1$ 达到零，表明所有智能体同步收敛至同一解。