[論文レビュー] Finite-Time Distributed Linear Equation Solver for Minimum $l_1$ Norm Solutions

Jingqiu Zhou, Xuan Wang+2 more|arXiv (Cornell University)|Sep 28, 2017

Matrix Theory and Algorithms参考文献 32被引用数 4

ひとこと要約

本稿では、過決定系の場合に線形方程式 $Ax = b$ の最小 $l_1$-ノルム解を有限時間で解くための分散型アルゴリズムを提案する。投影・共感フローと有限時間勾配ダイナミクスを組み合わせることで、すべてのエージェントが有限時間内に最小 $l_1$-ノルム解に共感を達成することが保証され、フィリッポフ微分包含と一般化されたリーマン微分を用いた解析によって証明され、4エージェントネットワークにおけるシミュレーションで検証されている。

ABSTRACT

This paper proposes distributed algorithms for multi-agent networks to achieve a solution in finite time to a linear equation $Ax=b$ where $A$ has full row rank, and with the minimum $l_1$-norm in the underdetermined case (where $A$ has more columns than rows). The underlying network is assumed to be undirected and fixed, and an analytical proof is provided for the proposed algorithm to drive all agents' individual states to converge to a common value, viz a solution of $Ax=b$, which is the minimum $l_1$-norm solution in the underdetermined case. Numerical simulations are also provided as validation of the proposed algorithms.

研究の動機と目的

• 多エージェントネットワークにおいて、$Ax = b$ の解に有限時間で収束する分散型アルゴリズムを開発すること。
• 行列 $A$ が行数より列数が多い過決定系において、最小 $l_1$-ノルム解への有限時間収束性を拡張すること。
• 従来の方法が有する漸近的収束の制限を克服し、正確に有限時間内に収束することを保証すること。
• フィリッポフ理論と一般化されたリーマン微分を用いて、有限時間収束の解析的証明を提供すること。
• 4エージェントネットワークを用いた数値シミュレーションを通じて、アルゴリズムの有効性を検証すること。

提案手法

• アルゴリズムは、局所情報と隣接エージェントとの通信に基づく分散更新則を用い、各エージェントが解を推定可能である。
• 時間変動するゲイン $k(t) = \frac{\bar{\delta}}{t+1} + \delta$ を更新則に組み込むことで、有限時間収束を達成している。
• 非滑らかな $\text{sgn}(\cdot)$ 関数に起因する微分包含を解析するため、フィリッポフの集合値写像と一般化されたリーマン微分を活用している。
• まず、$l_1$-ノルム目的関数に対する有限時間勾配フローを用いて、中心集約型の最小 $l_1$-ノルム解の更新則を導出している。その後、これを分散型フレームワークに統合している。
• 全体の分散アルゴリズムは、有限時間共感メカニズムと中心集約型最小 $l_1$-ノルムソルバを統合しており、すべてのエージェントが同一の最小 $l_1$-ノルム解に収束することを保証している。
• 収束性は、共感からの偏差の $l_1$-ノルム $\|y(t) - \mathbf{1}_m \otimes x^*\|_1$ を用いて検証されており、有限時間内にゼロに達することが確認されている。

実験結果

リサーチクエスチョン

• RQ1 ローカル通信のみを前提とした多エージェントネットワークにおいて、分散型アルゴリズムが $Ax = b$ の解に有限時間で収束可能か？
• RQ2 過決定系において、分散計算を用いて最小 $l_1$-ノルム解を有限時間で達成するにはどうすればよいか？
• RQ3 $l_1$-ノルムと $\text{sgn}(\cdot)$ 関数の非滑らかさが存在するにもかかわらず、どのような動的メカニズムが有限時間収束を保証するか？
• RQ4 時間変動するゲイン $k(t)$ は、分散ソルバの収束速度と有限時間的挙動にどのように影響を与えるか？
• RQ5 分散アルゴリズムの収束時間と中心集約型最小 $l_1$-ノルムソルバとの関係は何か？

主な発見

• 4エージェントネットワークにおいて、分散アルゴリズムが有限時間内に $Ax = b$ の解に収束することが確認され、$\|y(t) - \mathbf{1}_m \otimes x^*\|_1$ が有限時間内にゼロに達している。
• 中心集約型の最小 $l_1$-ノルム解の更新則は有限時間収束を達成しており、$\|y(t) - \bar{x}^*\|_1$ がゼロに達し、その後もゼロを維持している。
• 分散型最小 $l_1$-ノルム解のアルゴリズムは、$\bar{\delta}$ と $\delta$ のパラメータ設定に関わらず有限時間内に収束する。$\delta$ が大きくなるほど収束時間が短縮される。
• $\delta$ を増加させると収束が著しく速くなり、$\bar{\delta}$ を増加させることでも収束が改善されるが、その影響はやや小さい。
• 分散アルゴリズムの収束時間は、中心集約型のケースに比べておおよそ $\frac{1}{\delta}$ 倍長くなる。これは、$k(t) < 1$ による中心集約ダイナミクスのスケーリングに起因する。
• エージェント間の共感が有限時間内に達成されており、$\|y(t) - \mathbf{1}_m \otimes \bar{y}(t)\|_1$ がゼロに達することで、同じ解に同期的に収束していることが示されている。