[論文レビュー] Fully Distributed Alternating Direction Method of Multipliers in Digraphs via Finite-Time Termination Mechanisms

Wei Jiang, Themistoklis Charalambous|arXiv (Cornell University)|Jul 5, 2021

Sparse and Compressive Sensing Techniques参考文献 24被引用数 4

ひとこと要約

本稿では、有向グラフ（digraph）上での凸最適化のための完全分散型交替方向乗数法（ADMM）であるFD-ADMM-FTDTを提案する。有限時間に正確な比平均化協議プロトコルを用いることで、ネットワークサイズのグローバルな知識が不要な状態でグローバル変数の分散計算を可能にする。アルゴリズムは一般の凸関数に対してO(1/k)の収束速度で正確に収束し、強凸性および滑らかさの下では近似的なR線形収束を示す。大規模ネットワークにおいて、先行手法に比べて速度と精度の両面で優れている。

ABSTRACT

In this work, we consider the distributed optimization problem in which each node has its own convex cost function and can communicate directly only with its neighbors, as determined by a directed communication topology (directed graph or digraph). First, we reformulate the optimization problem so that Alternating Direction Method of Multipliers (ADMM) can be utilized. Then, we propose an algorithm, herein called Distributed Alternating Direction Method of Multipliers using Finite-Time Exact Ratio Consensus (D-ADMM-FTERC), to solve the multi-node convex optimization problem, in which every node performs iterative computations and exchanges information with its neighbors. At every iteration of D-ADMM-FTERC, each node solves a local convex optimization problem for the one of the primal variables and utilizes a finite-time exact consensus protocol to obtain the optimal value of the other variable, since the cost function for the second primal variable is not decomposable. Since D-ADMM-FTERC requires to know the upper bound on the number of nodes in the network, we furthermore propose a new algorithm, called Fully D-ADMM Finite-Time Distributed Termination (FD-ADMM-FTDT) algorithm, which does not need any global information. If the individual cost functions are convex and not-necessarily differentiable, the proposed algorithms converge at a rate of O(1/k), where k is the iteration counter. Additionally, if the global objective function is strongly convex and smooth, the proposed algorithms have an "approximate" R-linear convergence rate. The efficacy of FD-ADMM-FTDT is demonstrated via a distributed L1 regularized logistic regression optimization example. Additionally, comparisons with other state-of-the-art algorithms are provided on large-scale networks showing the superior precision and time-efficient performance of FD-ADMM-FTDT.

研究の動機と目的

• 双方向リンクが存在しない有向通信トポロジー（有向グラフ）における分散最適化の課題に対処すること。既存のADMM手法は、この状況では失敗する。
• 収束に必須とされる、ネットワークサイズなどのグローバル情報に依存しないようにすること。これは、従来の分散ADMMアルゴリズムに共通する問題である。
• 中央集権的なコordinatorが不要な完全分散型で、有限時間に正確な平均値を計算できる協議メカニズムを設計し、ADMMの反復処理におけるグローバル変数の正確な推定を可能にすること。
• 有向グラフにおける最新の分散ADMM手法に比べ、より高速な収束と高い精度を達成すること。
• 大規模な分散l1正則化ロジスティック回帰の実験を通じて、本手法の有効性を実証すること。

提案手法

• 有向グラフ上でのローカル変数の平均値を計算するために、有限時間に正確な比平均化協議（FTERC）プロトコルを用いた分散ADMMの変種D-ADMM-FTERCを提案。これにより、グローバル変数の正確な推定が可能になる。
• ネットワークサイズなどのグローバル知識が一切不要な完全分散型アルゴリズムFD-ADMM-FTDTを提案。FTERCプロトコルに加え、分散型終了検出メカニズムを統合することで実現する。
• 2段階のADMM更新ステップを採用：まずL-BFGS-Bを用いてローカルなプライマル変数を最適化し、次に双方向の平均値計算のための有限時間協議を実行して、双対変数およびプライマル更新の平均値を計算する。
• l1正則化の下で収束を保証するため、z更新ステップにしきい値処理（ソフトしきい値処理）を適用。これによりスパarsityが確保され、収束性が向上する。
• 中央集権的な集約装置を排除し、有限時間に正確な分散協議プロトコルに置き換えることで、完全分散型のz更新を実現。
• 全ノードが正確な平均値を計算し終えた後にのみ反復ステップを同期できる分散型終了検出メカニズムを導入。これにより、協調的かつ効率的な収束が保証される。

実験結果

リサーチクエスチョン

• RQ1 有向グラフ上で、ノード数などのグローバルなネットワーク情報に依存せずに、分散ADMMアルゴリズムが正確に収束できるか？
• RQ2 有限時間に正確な協議をADMMに統合することで、分散最適化における漸近的または中央集権的な平均化を置き換える方法は何か？
• RQ3 グローバル目的関数が強凸かつ滑らかである場合、有向グラフ上での完全分散型ADMMが達成できる収束速度は何か？
• RQ4 大規模ネットワークにおいて、本手法の収束速度および解の精度は、既存の分散ADMM手法と比べてどのように異なるか？
• RQ5 提案された有限時間協議および終了検出メカニズムは、l1正則化ロジスティック回帰のような実世界の分散機械学習問題に効果的に適用可能か？

主な発見

• FD-ADMM-FTDTは、ネットワークサイズのグローバルな知識が一切不要な状態で、有向グラフ上での凸コスト関数に対して正確に収束する。これは、先行手法とは対照的である。
• 一般の凸関数および微分可能でない関数に対しても、収束速度はO(1/k)であり、分散ADMMにおける最良の既知の収束速度と一致する。
• 強凸性および滑らかさの下では、近似的なR線形収束を示す。これは、良好に条件付けられた問題に対して高速な収束を示している。
• 大規模なl1正則化ロジスティック回帰の実験では、FD-ADMM-FTDTは中央集権的アルゴリズムと同等の最適な目的関数値に到達し、正確な解の回復が確認された。
• FD-ADMM-FTDTは収束までにわずか3.69秒で完了した。これに対して、次に優れた手法（D-DistADMM）は238.56秒を要した。後者はより多くの協議ステップを要するため、非効率であった。
• 先行研究と比較して、最適化ステップあたりの比平均化協議の反復回数を削減した。これにより収束が加速されつつ、高い精度を維持した。