[論文レビュー] Accelerated Primal-Dual Algorithms for Distributed Smooth Convex Optimization over Networks

Jinming Xu, Ye Tian+2 more|arXiv (Cornell University)|Oct 23, 2019

Distributed Control Multi-Agent Systems参考文献 35被引用数 10

ひとこと要約

本稿では、勾配情報とゴスピプロトコルのみを用いて、ネットワーク上の滑らかな凸最適化のための、プリミティブ・デュアルに基づく分散アルゴリズムOPTRAを提案する。計算と通信の両ステップに加速を統合することにより、Fenchel共役の知識を必要とせず、Bregman距離の観点から既存の下界に一致する最適な収束速度を達成する。これにより、先行の最適手法よりも広い関数クラスへの適用可能性が拡大される。

ABSTRACT

This paper proposes a novel family of primal-dual-based distributed algorithms for smooth, convex, multi-agent optimization over networks that uses only gradient information and gossip communications. The algorithms can also employ acceleration on the computation and communications. We provide a unified analysis of their convergence rate, measured in terms of the Bregman distance associated to the saddle point reformation of the distributed optimization problem. When acceleration is employed, the rate is shown to be optimal, in the sense that it matches (under the proposed metric) existing complexity lower bounds of distributed algorithms applicable to such a class of problem and using only gradient information and gossip communications. Preliminary numerical results on distributed least-square regression problems show that the proposed algorithm compares favorably on existing distributed schemes.

研究の動機と目的

• マルチエージェントネットワーク向けに、勾配情報とゴスピプロトコルのみを用いて最適な収束速度を達成する分散最適化アルゴリズムの開発。
• エージェントの関数のFenchel共役を計算する必要を排除することにより、先行の最適手法の適用範囲を制限する要因を解消すること。
• 問題の鞍点定式化に関連するBregman距離を用いた収束速度の分析を統一すること。
• 同じ指標において勾配計算と通信ステップの両方の複雑度の下界を満たすこと。
• 線形回帰問題における数値実験を通じて、優れた実用的性能を示すこと。

提案手法

• アルゴリズムは、鞍点最適化を介して再定式化されたプライマル・デュアルフレームワークに基づき、無向かつ固定されたネットワーク上で分散計算を可能にする。
• 局所的計算と通信ステップのバランスを最適化する、新しい加速メカニズムを採用している。
• 収束解析は、鞍点定式化に関連するBregman距離を用い、性能評価のための統一された指標を提供する。
• 加速は、局所的勾配更新と、ゴスピプロトコルによる近隣間の情報交換の両方のステップに同時に適用される。
• 目的関数のFenchel共役に依存しないため、一般の滑らかな凸関数への適用性が向上する。
• 実験では、各アルゴリズムに対して公平な比較を確保するため、手動でパラメータチューニングを実施し、ステップサイズや反復回数などの主要パラメータを最良の性能になるように最適化する。

実験結果

リサーチクエスチョン

• RQ1 勾配情報とゴスピプロトコルのみを用いて、分散プライマル・デュアルアルゴリズムが滑らかな凸最適化で最適な収束速度を達成できるか。
• RQ2 分散ネットワークにおいて、計算ステップと通信ステップの両方を同時に最適化する加速スキームを設計可能か。
• RQ3 Fenchel共役の計算を不要にすることで、最適速度アルゴリズムの適用範囲が広がるか。
• RQ4 通信コストが非可視である場合を除き、提案手法が既存の加速分散手法と比較して、総コスト、通信、計算の観点で優れた性能を示すか。
• RQ5 通信コストと計算コストの比率が変化する状況でも、最適な複雑度バウンドを維持できるか。

主な発見

• 提案されたOPTRAアルゴリズムは、Bregman距離の観点から、$ O\bigl(\frac{1}{\tau}\bigr) $ の最適な収束速度を達成し、勾配とゴスピプロトコルのみを用いる第一階層分散アルゴリズムの既存の下界と一致する。
• OPTRAは、滑らかな凸関数に対して、計算と通信の複雑度下界を同時に満たす、最初に知られている第一階層のゴスピプロトコルベースのアルゴリズムである。
• Scamanら（2017年）およびUribeら（2018年）とは異なり、OPTRAはFenchel共役の知識を必要とせず、一般の滑らかな凸関数への適用範囲を著しく拡大する。
• 数値結果から、OPTRAは特に通信コストが非可視である場合に、Acc-DNGD-NSC、APM-C、NEXT、EXTRA、DPSGDといった既存手法を上回ることが示された。
• 計算コストが通信コストの5倍である状況でも、OPTRAは線形回帰およびロジスティック回帰問題の両方で優れた性能を維持し、コストの不均衡に対するロバストネスを示した。
• 強凸正則化に依存する手法とは異なり、OPTRAは対数的要因のペナルティを負わず、精度が向上するに従い条件数が悪化する問題を回避している。