[論文レビュー] IDEAL: Inexact DEcentralized Accelerated Augmented Lagrangian Method

Yossi Arjevani, Joan Bruna+4 more|arXiv (Cornell University)|Jun 11, 2020

Stochastic Gradient Optimization Techniques参考文献 42被引用数 12

ひとこと要約

本稿では、滑らかで強く凸な最適化問題に対する、非正確な分散型加速増大ラグランジュ法であるIDEALを提案する。加速勾配降下法と非正確な部分問題解法を組み合わせることで、目的関数の条件数（$\kappa_f$）と混合行列（$\kappa_W$）の両方において、下界に一致する最適な収束速度を達成する。プライマルのみの枠組みで、従来の手法を上回り、特に条件数が悪く通信量が限られた状況で優れた性能を示す。

ABSTRACT

We introduce a framework for designing primal methods under the decentralized optimization setting where local functions are smooth and strongly convex. Our approach consists of approximately solving a sequence of sub-problems induced by the accelerated augmented Lagrangian method, thereby providing a systematic way for deriving several well-known decentralized algorithms including EXTRA arXiv:1404.6264 and SSDA arXiv:1702.08704. When coupled with accelerated gradient descent, our framework yields a novel primal algorithm whose convergence rate is optimal and matched by recently derived lower bounds. We provide experimental results that demonstrate the effectiveness of the proposed algorithm on highly ill-conditioned problems.

研究の動機と目的

• 双対オракルに依存せずに、最適な収束速度を達成するプライマルベースの分散最適化フレームワークの設計。
• EXTRA や SSDA といった代表的な分散アルゴリズムを、統一的かつ体系的な枠組みで導出すること。
• プライマル手法において、$\sqrt{\kappa_f}$ と $\sqrt{\kappa_W}$ の両方の依存関係を同時に達成することで、収束速度のギャップを埋めること。
• 悪条件問題（$\kappa_f \gg \kappa_W$）において、提案手法の有効性を実証すること。
• 現実の通信および計算コストの制約下での最適分散最適化の理論的・実験的基盤を提供すること。

提案手法

• フレームワークは、部分問題を非正確な勾配情報で近似的に解く加速増大ラグランジュ法に基づく。
• 各部分問題を解くために、最適な $\sqrt{\kappa_f}$ 収束を実現する加速勾配降下法（AGD）をサブルーチンとして採用する。
• 通信を支配する混合行列 $W$ と、その条件数 $\kappa_W$ が収束解析に明示的に組み込まれている。
• エージェントが隣人とのみ通信する分散環境で動作し、$W$ を用いたコアリションベースの更新ルールを採用する。
• 通信コストと計算コストの比（$\tau$）に応じて適応可能なマルチステージ版、MIDEAL が導入され、さまざまな環境での性能最適化が図られる。
• 双対オラクルへのアクセスを回避し、直接的にプライマル更新によって双対勾配を近似することで、実用性と最適性を両立する。

実験結果

リサーチクエスチョン

• RQ1 プライマルのみの分散アルゴリズムが、$\kappa_f$ と $\kappa_W$ の両方において最適な収束速度を達成できるか？
• RQ2 提案フレームワークは、EXTRA や SSDA といった既存の分散アルゴリズムをどのように統一的かつ体系的に導出できるか？
• RQ3 通信コスト（$\tau$）が、さまざまな環境下でのアルゴリズムの性能に与える影響は何か？
• RQ4 非正確な部分問題解法を加速と組み合わせても、依然として最適な収束が達成可能か？
• RQ5 悪条件問題において、提案手法は最先端の手法と比較して、実験的にどの程度の性能を示すか？

主な発見

• IDEAL は、最近導出された下界に一致する最適な収束速度 $\tilde{O}(\sqrt{\kappa_f \kappa_W} \log(1/\epsilon))$ を達成する。
• 通信コストが低い環境（$\tau\sqrt{\kappa_W} < 1$）では、MSDA よりも計算コストが $\sqrt{\kappa_f}$ 倍改善される。
• 悪条件環境（$1 < \tau\sqrt{\kappa_W} < \sqrt{\kappa_f}$）では、MIDEAL の複雑度は通信コスト $\tilde{O}(\tau\sqrt{\kappa_f\kappa_W}\log(1/\epsilon))$ に支配され、$\sqrt{\kappa_f}/(\tau\sqrt{\kappa_W})$ の割合で改善が得られる。
• MNIST における実験（$\kappa_f \approx 10^3$）では、円形およびバーベル型グラフという異なるネットワークトポロジーにおいて、IDEAL と MIDEAL が EXTRA、APM-C、SSDA/MSDA をすべて上回る性能を示した。
• 非正確性機構は、通信コストが低い環境では SSDA/MSDA の速度を著しく低下させる一方、通信コストが高い場合には APM-C が性能を発揮しない。
• MIDEAL は通信コストが低い環境で最適であり、IDEAL は通信コストが高い環境で最適である。これにより、設計における理論的トレードオフが裏付けられた。