[論文レビュー] Superlinearly Convergent Asynchronous Distributed Network Newton Method

Fatemeh Mansoori, Ermin Wei|arXiv (Cornell University)|May 10, 2017

Distributed Control Multi-Agent Systems参考文献 28被引用数 7

ひとこと要約

本稿では、罰則付きコアリエンス最適化問題に対して、確実に全空間線形収束および期待値における局所超線形（2次）収束を達成する非同期分散ネットワークニュートン法を提案する。ヘシアン逆行列を行列分割により近似し、最適値に依存しない新しいステップサイズ規則を用いることで、従来の非同期手法が直線的収束または遅延の有界性を要件としていたという限界を克服する。

ABSTRACT

The problem of minimizing a sum of local convex objective functions over a networked system captures many important applications and has received much attention in the distributed optimization field. Most of existing work focuses on development of fast distributed algorithms under the presence of a central clock. The only known algorithms with convergence guarantees for this problem in asynchronous setup could achieve either sublinear rate under totally asynchronous setting or linear rate under partially asynchronous setting (with bounded delay). In this work, we built upon existing literature to develop and analyze an asynchronous Newton based approach for solving a penalized version of the problem. We show that this algorithm converges almost surely with global linear rate and local superlinear rate in expectation. Numerical studies confirm superior performance against other existing asynchronous methods.

研究の動機と目的

• ネットワーク上で局所凸関数の和を最小化するための非同期分散最適化アルゴリズムを開発すること。中央クロックに依存しないこと。
• 任意の遅延が存在する状況でも、既存の非同期手法よりも高速な収束を達成すること。
• 2次の手法（ニュートン型）を完全に非同期な設定に拡張し、理論的収束保証を提供すること。
• ステップサイズ選択における未知の最適関数値への依存を排除することで、実用性を向上させること。
• 数値実験を通じて、非同期ADMMおよびギャッジングアルゴリズムと比較して優れた収束速度を示すこと。

提案手法

• アルゴリズムは、2次的コアリエンス項と局所凸関数の組み合わせを最小化するコアリエンス問題の罰則付き定式化を用いる。
• ニュートンステップの分散計算を可能にするために、行列分割技術を用いてヘシアン逆行列を近似する。
• 最適関数値の知識を必要としない新しいステップサイズ規則を導入し、実装の実用性を向上させる。
• エージェントが任意の遅延を伴って独立して更新する完全に非同期な動作を実現する。
• 変数変換を用いた収束解析により、対角スケーリング行列を導入し、ダイナミクスを分離して誤差の減衰を分析する。
• 理論的保証として、確実に収束することと、有限時間後に期待値における局所2次収束率を達成することを含む。

実験結果

リサーチクエスチョン

• RQ1 完全に非同期なネットワーク設定で、任意の遅延を伴う分散ニュートン型手法が超線形収束を達成できるか？
• RQ2 分散的かつ非同期的な環境で、ヘシアン逆行列を効率的かつ安定的に近似する方法は何か？
• RQ3 未知の最適関数値に依存しないステップサイズ規則を設計できるか？
• RQ4 アルゴリズムの収束特性は、全空間線形収束および局所超線形収束率の観点でどのように評価できるか？
• RQ5 実際の応用において、非同期ADMMおよびギャッジングアルゴリズムといった既存手法と比較して、本手法はどのように性能を発揮するか？

主な発見

• 提案された非同期ネットワークニュートン法は、期待値において確実に全空間線形収束を達成する。
• 有限時間後、期待値における局所超線形（2次）収束率に達する。誤差の減衰率は $ \mathbb{E}[\|D(r-1)^{1/2}(x(r)-x^*)\|] \leq C \cdot (\text{error})^{2^{r-\bar{t}}} $ の形で示される。
• ステップサイズ規則は最適関数値に依存しないため、従来手法よりも実用的である。
• 数値結果から、非同期ネットワークニュートン法が非同期ADMMおよびギャッジングアルゴリズムを著しく上回る収束速度を示している。
• 2次収束フェーズの収束近傍は空でなく、初期の最適解からの距離 $ F(x(0)) - F^* $ に依存することが定量的に示された。
• 従来手法が線形収束を保証するために遅延の有界性を要件としていたのに対し、本手法は完全非同期でも理論的保証を維持する。