[論文レビュー] A Coordinate Descent Primal-Dual Algorithm and Application to Distributed Asynchronous Optimization

Pascal Bianchi, Walid Hachem+1 more|arXiv (Cornell University)|Jul 3, 2014

Distributed Control Multi-Agent Systems参考文献 49被引用数 144

ひとこと要約

本稿では、分散非同期最適化のための確率的座標降下プライマルデュアルアルゴリズム、DAPDを提案する。ヴゥ＝コンダットのアルゴリズムに基づくプライマルデュアルフレームワークに確率的座標更新を適用することで、エージェントが局所的推定値を独立して更新し、非同期にデータを交換することが可能となり、従来の手法よりも弱い条件下でも収束を達成する。数値結果により、大規模な設定下での効率性が確認されている。

ABSTRACT

Based on the idea of randomized coordinate descent of $\\alpha$-averaged operators, a randomized primal-dual optimization algorithm is introduced, where a random subset of coordinates is updated at each iteration. The algorithm builds upon a variant of a recent (deterministic) algorithm proposed by V\\~u and Condat that includes the well known ADMM as a particular case. The obtained algorithm is used to solve asynchronously a distributed optimization problem. A network of agents, each having a separate cost function containing a differentiable term, seek to find a consensus on the minimum of the aggregate objective. The method yields an algorithm where at each iteration, a random subset of agents wake up, update their local estimates, exchange some data with their neighbors, and go idle. Numerical results demonstrate the attractive performance of the method. The general approach can be naturally adapted to other situations where coordinate descent convex optimization algorithms are used with a random choice of the coordinates.

研究の動機と目的

• エージェント間で非同期に動作する、証明可能に収束する分散最適化アルゴリズムの開発。
• ヴゥ＝コンダットのプライマルデュアルアルゴリズムを、部分的かつ独立した更新を可能にする確率的座標降下フレームワークに拡張すること。
• 既存のADMM変種と比較して、ステップサイズの収束要件を緩和すること。
• 非同期性と部分的エージェント活性化をサポートすることで、大規模機械学習における実用的導入を可能にすること。

提案手法

• アルゴリズムは、α-平均化作用素に適用されたランダム化座標降下の変種であるクラスラスノセルスキー＝マン反復の変種から導出される。
• 分散最適化問題を、線形作用素Mによって符号化された一貫性制約を有するプライマルデュアルサドルポイント問題に再定式化する。
• 各反復で、ランダムに選択されたエージェントのサブセットが、近接作用素を用いて局所変数を更新し、隣接エージェントとデュアル変数を交換する。
• 緩和付きデュアル上昇ステップを用い、収束を弱い仮定のもとで保証するランダム化更新ルールを適用する。
• DADMM+フレームワークと正式にリンクされているが、座標選択を通じて非同期的かつ部分的な更新を可能にするように適応されている。
• 収束は、α-平均化作用素の不動点解析および反復列のほとんど確実収束を用いて確立される。

実験結果

リサーチクエスチョン

• RQ1 α-平均化作用素に基づくプライマルデュアルアルゴリズムに、確率的座標降下アプローチを適用することで収束を保証できるか？
• RQ2 提案された非同期的で分散型のアルゴリズムは、エージェントが独立的かつランダムな順序で更新しても収束を維持するか？
• RQ3 決定的ADMM変種と比較して、ステップサイズの仮定を弱める収束保証を拡張できるか？
• RQ4 収束速度とスケーラビリティの観点から、同期的同等手法と比較してアルゴリズムの性能はどのように異なるか？

主な発見

• DAPDアルゴリズムは、元のヴゥ＝コンダットアルゴリズムよりもステップサイズに関する仮定を弱めた条件下でも、ほとんど確実にプライマルデュアル解に収束する。
• ランダム化座標降下フレームワークにより、各反復で一部のエージェントのみが更新される場合でも収束が保証され、完全な非同期性が実現可能である。
• 微分可能な項の勾配がリプシッツ連続である場合、アルゴリズムは証明可能に収束し、収束速度はネットワークの最小次数に依存する。
• 数値結果により、分散環境下での収束速度とスケーラビリティの観点で優れた性能が示された。
• エージェントが遅延または古くなった情報で動作しても収束を維持するため、実世界の分散システムに適している。