[論文レビュー] Distributed Finite-time Least Squares Solver for Network Linear Equations

Tao Yang, Jemin George+3 more|arXiv (Cornell University)|Sep 29, 2018

Distributed Control Multi-Agent Systems被引用数 7

ひとこと要約

本稿では、ネットワーク化された線形方程式に対して分散型の有限時間最小二乗ソルバーを提案する。分散計算メカニズムを用いることで、任意のノードが有限時間内に最小二乗解を計算可能である。この手法は、無向グラフ上で指数的収束を保証し、有向グラフへも拡張可能であり、基礎となるアルゴリズムが発散する場合でさえも有効である。

ABSTRACT

In this paper, we study the problem of finding the least square solutions of over-determined linear algebraic equations over networks in a distributed manner. Each node has access to one of the linear equations and holds a dynamic state. We first propose a distributed least square solver over undirected interaction graphs, for which we establish the conditions on the interaction graphs and the step-size under which the proposed algorithm exponentially converges to the least square solution. Next, we develop a finite-time least square solver by equipping the proposed algorithm with a finite-time decentralized computation mechanism. The proposed finite-time computation mechanism enables an arbitrarily chosen node to compute the least square solution in a finite number of time steps, by using its own local successive state values obtained from the underlying algorithm. Finally, we discuss how to extend the proposed algorithm to directed interaction graphs and how the finite-time computation mechanism computes the least square solution even when the underlying algorithms diverge. The theoretical findings are validated and illustrated by numerical simulation examples.

研究の動機と目的

• 過決定線形方程式系をネットワーク上で有限時間内に解く分散アルゴリズムの開発。
• 無向相互作用グラフ上で、最小二乗解への指数的収束を保証すること。
• 任意のノードが自ノードの局所的状態履歴のみを用いて、有限時間内に解を計算可能な有限時間分散計算メカニズムの設計。
• 基礎となるアルゴリズムが発散する場合でも、有限時間内に解を計算可能であることを保証するように、フレームワークを有向相互作用グラフへ拡張すること。
• 数値シミュレーションを通じて理論的結果の妥当性を検証すること。

提案手法

• 本稿では、無向相互作用グラフ上で動作する分散最小二乗ソルバーを導入する。各ノードは1本の式を保持し、局所的な情報交換により自身の状態を更新する。
• 相互作用グラフの構造とステップサイズに関する条件を確立し、最小二乗解への指数的収束を保証する。
• 有限時間計算メカニズムをアルゴリズムに統合し、ノードが自らの局所的状態軌道のみを用いて、有限ステップ内で解を計算可能にする。
• このメカニズムは、基礎となるアルゴリズムからの連続する状態値を用い、終了をトリガーし、解を出力する。
• 非対称な情報フローを扱うために、更新ルールを変更することで、有向グラフへの応用を可能にする。
• 理論的分析により、基礎となるアルゴリズムが発散する場合でも、有限時間メカニズムを適切に適用すれば、有限時間収束が達成可能であることが確認されている。

実験結果

リサーチクエスチョン

• RQ1 分散型最小二乗ソルバーが無向グラフ上で指数的収束する条件は何か？
• RQ2 局所的状態系列から有限時間内に解を回復可能にする有限時間計算メカニズムをどのように設計できるか？
• RQ3 基礎となるアルゴリズムが有向グラフ上で発散する場合でも、有限時間メカニズムが正しく解を出力できるか？
• RQ4 有限時間収束を維持しつつ、アルゴリズムを有向相互作用グラフへ拡張するために必要な修正は何か？
• RQ5 非対称な通信トポロジーの下でも、有限時間メカニズムが精度と収束性をどのように維持できるか？

主な発見

• 提案された分散型最小二乗ソルバーは、相互作用グラフ構造とステップサイズに関する適切な条件下で、最小二乗解への指数的収束を達成する。
• 有限時間計算メカニズムにより、任意のノードが自ノードの局所的状態履歴のみを用いて、有限ステップ内で正確な最小二乗解を計算可能である。
• 基礎となるアルゴリズムが有向グラフ上で発散する場合でも、このメカニズムは有効であり、有限時間内に解の回復が可能である。
• 理論的分析により、状態軌道の構造を活用することで、有向グラフ上でも有限時間収束が達成可能であることが確認された。
• 数値シミュレーションにより理論的結果が検証され、さまざまなネットワークトポロジーにおいて、正確かつ有限時間内に解が計算されることを示した。