[論文レビュー] Exact Diffusion for Distributed Optimization and Learning --- Part II: Convergence Analysis

Kun Yuan, Bicheng Ying+2 more|arXiv (Cornell University)|Feb 16, 2017

Distributed Control Multi-Agent Systems参考文献 22被引用数 6

ひとこと要約

本稿は、分散最適化におけるExact Diffusionアルゴリズムの線形収束速度および安定性特性を確立し、 doubly stochastic 組み合わせ行列を必要とせず、バイアスを除去する拡散構造に補正ステップを導入することで、EXTRA法よりも高速な収束とより広い安定なステップサイズ範囲を達成できることを証明している。一般のネットワークトポロジーへの応用が可能である。

ABSTRACT

Part I of this work [2] developed the exact diffusion algorithm to remove the bias that is characteristic of distributed solutions for deterministic optimization problems. The algorithm was shown to be applicable to a larger set of combination policies than earlier approaches in the literature. In particular, the combination matrices are not required to be doubly stochastic, which impose stringent conditions on the graph topology and communications protocol. In this Part II, we examine the convergence and stability properties of exact diffusion in some detail and establish its linear convergence rate. We also show that it has a wider stability range than the EXTRA consensus solution, meaning that it is stable for a wider range of step-sizes and can, therefore, attain faster convergence rates. Analytical examples and numerical simulations illustrate the theoretical findings.

研究の動機と目的

• 分散最適化設定におけるExact Diffusionアルゴリズムの収束性と安定性を分析すること。
• 一般の左確率的組み合わせ方針下でExact Diffusionに線形収束速度が成立することを確立すること。
• Exact DiffusionがEXTRA法よりも広い安定範囲（すなわち、より大きな許容可能なステップサイズ）を有することを示すこと。
• Exact Diffusionがdoubly stochastic 行列を必要とせずに真の最適解への正確な収束を達成できることを示すこと。
• 理論的考察を解析的例および数値シミュレーションにより検証すること。

提案手法

• アルゴリズムは、適応、補正、結合の3段階構造を採用し、標準的な拡散手法に生じるバイアスを除去する補正ステップを有する。
• 本手法はdoubly stochastic でない左確率的組み合わせ行列 A を採用しており、これによりより広範なネットワークトポロジーへの適用が可能である。
• 収束解析はブロックベクトル表現と誤差ダイナミクス行列 E_d の固有値分解を用いて実施される。
• 安定性および収束性は、スペクトル半径 ρ(E_d) < 1 により解析され、反復回数を経て誤差がゼロに減少することを保証する。
• 左確率的行列 A のPerron ベクトル p と対角行列 P = diag(p) を用いて重み付けスキームを定義する。
• それぞれの誤差ダイナミクス行列の固有値構造を導出し、比較することでExact DiffusionとEXTRA法の収束特性を分析する。

実験結果

リサーチクエスチョン

• RQ1 Exact Diffusionアルゴリズムは、一般の左確率的組み合わせ方針下でも線形収束を達成するか？
• RQ2 Exact Diffusionの安定範囲（許容可能なステップサイズ）は、EXTRA法と比較してどのように異なるか？
• RQ3 Exact Diffusionはdoubly stochastic 組み合わせ行列を必要とせずに正確な収束を達成できるか？
• RQ4 Exact Diffusionの正確な線形収束速度は何か？ また、ネットワークトポロジーとステップサイズにどのように依存するか？
• RQ5 Exact Diffusionにおける補正ステップは、標準的拡散アルゴリズムに見られるバイアスをどのように除去するか？

主な発見

• Exact Diffusionはスペクトル半径 ρ(E_d) < 1 を満たし、誤差が指数関数的にゼロに減少することを保証する線形収束を達成する。
• 特に μσ² < 1 の場合に、EXTRA法よりも広いステップサイズ範囲で安定性と収束性を維持する。
• ステップサイズ μ が 0 < μσ² < 1 を満たす場合、誤差ダイナミクス行列 E_d のすべての固有値が単位円内にあり、収束が保証される。
• μσ² ≥ 1 + a の場合、EXTRA法は大きさが1より大きい固有値を持つため不安定化するが、Exact Diffusionは安定性を維持する。
• 固有値解析により、Exact Diffusionはより広い安定ステップサイズ領域を有するため、EXTRA法よりも収束が速いことが解析的に示された。
• Exact Diffusionにおける補正ステップは、標準的拡散手法に生じるバイアスを効果的に除去し、doubly stochastic 行列を必要としない状況でも真の最適解への正確な収束を可能にする。