[論文レビュー] A Fast Distributed Asynchronous Newton-Based Optimization Algorithm

Fatemeh Mansoori, Ermin Wei|arXiv (Cornell University)|Jan 4, 2019

Distributed Control Multi-Agent Systems参考文献 49被引用数 5

ひとこと要約

本稿では、ネットワーク化されたシステム上で局所的凸関数の和を最小化するための非同期分散ニュートンベース最適化アルゴリズムを提案する。2次情報を利用するとともに、エージェントが古くなったデータを用いて独立して更新できるようにすることで、期待値におけるグローバル線形収束およびローカル2次収束をほぼ確実に達成し、数値実験において既存の非同期手法を上回る性能を発揮する。

ABSTRACT

One of the most important problems in the field of distributed optimization is the problem of minimizing a sum of local convex objective functions over a networked system. Most of the existing work in this area focus on developing distributed algorithms in a synchronous setting under the presence of a central clock, where the agents need to wait for the slowest one to finish the update, before proceeding to the next iterate. Asynchronous distributed algorithms remove the need for a central coordinator, reduce the synchronization wait, and allow some agents to compute faster and execute more iterations. In the asynchronous setting, the only known algorithms for solving this problem could achieve either linear or sublinear rate of convergence. In this work, we built upon the existing literature to develop and analyze an asynchronous Newton-based method to solve a penalized version of the problem. We show that this algorithm guarantees almost sure convergence with global linear and local quadratic rate in expectation. Numerical studies confirm superior performance of our algorithm against other asynchronous methods.

研究の動機と目的

• 同期分散最適化の限界、すなわち中央クロックの必要性と遅延エージェントによるボトルネックを解消するため。
• 調整の必要性を排除し、同期遅延を低減する非同期分散アルゴリズムを開発するため。
• 分散最適化において、期待値における高速収束率（具体的にはグローバル線形およびローカル2次収束率）を達成するため。
• 任意の遅延が生じる状況下でも収束を保証する非同期設定へのニュートンベース手法の拡張を図るため。
• ロジスティック回帰および合成データを用いた数値的検証により、アルゴリズムの優位性を検証するため。

提案手法

• 分散最適化を可能にするために、共通化問題の罰則付き版を用いる。
• 各エージェントは意思決定変数の局所的コピーを維持し、自身の局所時計に従って非同期に更新を行う。
• ヘッセ行列の逆行列の切り捨てられたテイラー展開近似を用いて、2次情報（ヘッセ行列）を統合する更新ルールを採用する。
• エージェントが隣接エージェントからの古くなった情報を使用できるようにすることで、任意の遅延を許容する完全非同期性を実現する。
• ステップサイズおよびペナルティパラメータの境界を設定した上で、均一および非均一なアクティベーション確率の両方の下で収束解析を実施する。
• 最適な性能を得るために、減少するステップサイズとペナルティ係数αを用いてアルゴリズムを実装する。

実験結果

リサーチクエスチョン

• RQ1 中央コーディネータが不要な非同期設定において、分散ニュートンベース手法が高速収束を達成できるか？
• RQ2 期待値における非同期2次手法の収束率（線形、2次）として保証できるのはどの程度か？
• RQ3 任意の遅延および非均一なエージェントアクティベーションパターン下で、アルゴリズムはどのように動作するか？
• RQ4 実際の応用において、非同期ニュートン法はADMMやゴッサップといった既存の非同期アルゴリズムを上回る性能を示すか？
• RQ5 収束性と最適性能を保証するパラメータ選定（例：ステップサイズ、ペナルティ係数）はどのようなものか？

主な発見

• 提案された非同期ネットワークニュートンアルゴリズムは、任意の遅延および非均一なアクティベーション確率下でもほぼ確実に収束を保証する。
• アルゴリズムは期待値においてグローバル線形収束率およびローカル2次収束率を達成し、既存の非同期手法に比べ顕著な改善を示す。
• 糖尿病スケールデータセットを用いた数値結果から、非同期ネットワークニュートン法が非同期ADMMおよびゴッサップアルゴリズムよりも速く収束することが示された。
• 非均一なアクティベーション状況下では、最も遅延の大きいエージェントのアクティベーション確率が低い場合、非同期バージョンが同期バージョンを上回る性能を示した。
• 古くなった情報に対しても性能を維持できることから、非同期性および通信遅延に対して強い耐性を示した。
• シミュレーションの横軸には更新回数（イテレーションではない）が使用されており、1イテレーションあたり複数のエージェントを更新するアルゴリズムとの公平な比較が保証されている。