[論文レビュー] A Survey of ADMM Variants for Distributed Optimization: Problems, Algorithms and Features

Yu Yang, Xiaohong Guan+4 more|arXiv (Cornell University)|Aug 7, 2022

Advanced MIMO Systems Optimization被引用数 13

ひとこと要約

本論文は、分散最適化におけるADMMの変種について包括的なサーベイを提供し、問題の種類（複数ブロック、結合された目的関数、非凸、一貫性、非同期設定）別に分類している。アルゴリズム設計、収束性、実用的特徴について分析し、スマートグリッド、フェデレーテッドラーニング、機械学習における応用のためのチュートリアルおよび研究ロードマップを提示する。

ABSTRACT

By coordinating terminal smart devices or microprocessors to engage in cooperative computation to achieve systemlevel targets, distributed optimization is incrementally favored by both engineering and computer science. The well-known alternating direction method of multipliers (ADMM) has turned out to be one of the most popular tools for distributed optimization due to many advantages, such as modular structure, superior convergence, easy implementation and high flexibility. In the past decade, ADMM has experienced widespread developments. The developments manifest in both handling more general problems and enabling more effective implementation. Specifically, the method has been generalized to broad classes of problems (i.e.,multi-block, coupled objective, nonconvex, etc.). Besides, it has been extensively reinforced for more effective implementation, such as improved convergence rate, easier subproblems, higher computation efficiency, flexible communication, compatible with inaccurate information, robust to communication delays, etc. These developments lead to a plentiful of ADMM variants to be celebrated by broad areas ranging from smart grids, smart buildings, wireless communications, machine learning and beyond. However, there lacks a survey to document those developments and discern the results. To achieve such a goal, this paper provides a comprehensive survey on ADMM variants. Particularly, we discern the five major classes of problems that have been mostly concerned and discuss the related ADMM variants in terms of main ideas, main assumptions, convergence behaviors and main features. In addition, we figure out several important future research directions to be addressed. This survey is expected to work as a tutorial for both developing distributed optimization in broad areas and identifying existing theoretical research gaps.

研究の動機と目的

• 過去10年間で開発された分散最適化向けADMMの変種を体系的に分類・分析すること。
• 文献で扱われている5つの主要な問題クラス（複数ブロック、結合された目的関数、非凸、一貫性、非同期最適化）を特定し、明確化すること。
• これらの問題クラスにわたるADMMの変種の主なアイデア、仮定、分解方式、収束行動、および主要特徴を検討すること。
• 通信遅延に強い、柔軟な通信、不正確な情報との互換性といった実用的利点を強調すること。
• 非凸拡張、加速、非同期実装、強化学習およびフェデレーテッドラーニングとの統合を含む、今後の重要な研究方向性を同定すること。

提案手法

• 本サーベイは、ADMMの変種を5つの核心的な問題タイプに基づいて分類する：複数ブロック、結合された目的関数、非凸、一貫性、非同期最適化。
• 各問題クラスについて、分解戦略やADMMに内在する双対上昇メカニズムを含むアルゴリズム設計をレビューする。
• 凸性、Lipschitz連続性、有界勾配などのさまざまな仮定の下での収束性を評価する。
• 通信の柔軟性、遅延への耐性、不正確な部分問題解法のサポートといった特徴を含む分析を行う。
• 定期的通信、部分的なクライアント参加、非同期更新といった実装技術を議論する。
• フェデレーテッドラーニング、スマートグリッド、無線通信などの実世界の応用事例を統合し、実用的有用性を説明する。

実験結果

リサーチクエスチョン

• RQ1 ADMMの変種は、複数ブロックおよび結合された目的関数最適化問題をどのように処理し、収束保証はどのようなものか？
• RQ2 非凸設定でADMMが収束するようにするために採用される主なアルゴリズム的修正は何か？ そして、古典的ADMMとはどのように異なるか？
• RQ3 ADMMの変種は、間欠的または部分的なクライアント参加のような柔軟な通信パターンをどのようにサポートするか？ これにより収束性にどのような影響があるか？
• RQ4 変動する更新頻度と通信遅延を伴う非同期コンピューティング環境にADMMをどのように適合できるか？
• RQ5 ADMMとフェデレーテッドラーニングやマルチエージェント強化学習といった新興パラダイムとの相乗効果は何か？ 今後の課題は何か？

主な発見

• ADMMの変種は非凸問題に対しても成功裏に拡張可能であるが、凸ケースに比べて収束保証はしばしば弱い。
• オーバーリラクセーション、不正確な解法、適応的ペナルティパラメータなどの技術により、いくつかのADMM変種が高速な収束レートを達成している。
• 定期的または部分的なクライアント参加を伴うADMMは、フェデレーテッドラーニングにおける通信オーバーヘッドを低減しつつ、妥当な収束性を維持している。
• 非同期ADMMの変種は、変動する更新頻度や通信遅延に強く、リアルタイム分散システムに適している。
• ADMMのモジュラー構造と低コストの反復処理は、フェデレーテッドラーニングのようなプライバシー保護型機械学習フレームワークと高い相性を持つ。
• 強力な性能を発揮しているものの、一般の非凸および確率的設定における収束解析がまだ不十分であるため、研究ギャップが顕著である。