[論文レビュー] Communication reduction in distributed optimization via estimation of the proximal operator

Giorgos Stathopoulos, Colin N. Jones|arXiv (Cornell University)|Mar 19, 2018

Numerical methods in inverse problems参考文献 11被引用数 11

ひとこと要約

本稿では、モアオ・エンvelopeと$ε$-サブディファレンシャルから導出された凸集合を用いて、近位部分問題の解を推定することで、分散最適化における通信量を削減するフレームワークを提案する。中央コーディネータは、各エージェントの最適化子を含む楕円体集合を維持・更新し、精度が不十分であると確認されるまで通信をトリガーしない。マイクログリッド負荷共有の事例研究において、通信ラウンドを46%以上削減しながら収束を保証した。

ABSTRACT

We introduce a reduced-communication distributed optimization scheme based on estimating the solution to a proximal minimization problem. Our proposed setup involves a group of agents coordinated by a central entity, altogether operating in a collaborative framework. The agents solve proximal minimization problems that are hidden from the central coordinator. The scheme enables the coordinator to construct a convex set within which the agents' optimizers reside, and to iteratively refine the set every time that an agent is queried. We analyze the quality of the constructed sets by showing their connections to the ε-subdifferential of a convex function and characterize their size. We prove convergence results related to the solution of such distributed optimization problems and we devise a communication criterion that embeds the proposed scheme in the Alternating Direction Method of Multipliers (ADMM). The developed scheme demonstrates significant communication reduction when applied to a microgrid setting.

研究の動機と目的

• エージェントのデータが機密に保たれる分散最適化における通信オーバーヘッドを低減すること。
• 中央コーディネータが直接通信を行わずにエージェントの近位解を推定できること。
• 通信が必要かどうかを判断する認証テストを開発し、不要な更新を最小限に抑えること。
• 近位解の推定誤差が存在しても最適化プロセスの収束を保証すること。
• 勾配法にとどまらず、ADMMに基づく分散ソルバーへの適用可能性を拡張すること。

提案手法

• コーディネータは、モアオ・エンvelopeとそのサブディファレンシャルの性質を用いて、各エージェントの近位問題の真の最適化子を含む凸集合（具体的には楕円体の積集合）を構築する。
• 各通信ラウンドで、照会されたエージェントからの勾配情報を使って、集合を繰り返し精錬する。
• 構築された集合と、モアオ・エンvelopeの上界関数に対する$ε$-サブディファレンシャルとの関係を活用し、最悪ケースのバインドにおいて最適性を保証する。
• 計算のための集合の近似を、最近の照会点と勾配のみを保持するリミテッドメモリ戦略に基づいて行う。
• ADMMに通信基準を組み込むために、現在の推定値が通信ラウンドをスキップするのに十分に正確かどうかを確認する認証テストを導出する。
• 固定点反復法に誤差を含めた場合の収束を保証する枠組みとして、推定された集合を用いて双対変数を予測し、共通変数を更新する。

実験結果

リサーチクエスチョン

• RQ1 中央コーディネータは、分散最適化における通信削減を実現するために、近位部分問題の解を十分な精度で推定できるか？
• RQ2 モアオ・エンvelopeと$ε$-サブディファレンシャルの観点から、推定された解集合の品質はどのように特徴づけられるか？
• RQ3 推定誤差の影響は収束に及ぼし、収束を保証できるか？
• RQ4 通信をトリガーする基準は、通信削減と収束速度のバランスをどのようにとることができるか？
• RQ5 提案されたフレームワークはADMMに効果的に統合可能か？また、どのような性能向上が達成可能か？

主な発見

• 提案された手法は、マイクログリッド負荷共有問題において、標準ADMMと比較して通信ラウンドを約46%削減した。1エージェントあたりの通信ラウンドは160回から87回に減少した。
• 推定誤差による軌道の逸脱が初期段階で顕著に現れ、反復回数は標準ADMMの160回から247回に増加した。
• 1エージェントあたり5～10個の最近の照会点を保持するリミテッドメモリ戦略を用いることで、フルメモリバージョンとほぼ同等の性能が達成され、計算オーヘッドは最小限に抑えられた。
• 1エージェントあたりの平均実行時間は、フルメモリの約7秒からリミテッドメモリの約1秒にまで短縮され、顕著な計算効率の向上が示された。
• 1つの最近の勾配点（M=1）のみを用いても性能劣化は限定的であり、効果的な近似には少数の点で十分であることが示された。
• 構築された凸集合が、未知のモアオ・エンvelope関数の最もタイトな上界関数に対して最適であることが示された。