[論文レビュー] Decentralized Approximate Newton Methods for In-Network Optimization

Hejie Wei, Zhihai Qu+3 more|arXiv (Cornell University)|Mar 22, 2019

Distributed Control Multi-Agent Systems参考文献 30被引用数 1

ひとこと要約

本稿では、ネットワーク内凸最適化のための分散型近似ニュートン（DEAN）法を提案する。ノードが局所的な近似ニュートン更新を用いて相互に協力的に局所的目的関数の和を最小化できるようにする。局所的強い凸性のもとで、DEANは明示的な誤差境界を伴い、最適解とはやや劣る解へ線形収束を保証し、二次計画問題では正確な最適解へ収束する。従来の2次最適化手法に比べ、収束速度と精度の両面で優れている。

ABSTRACT

This paper proposes a class of Decentralized Approximate Newton (DEAN) methods for addressing in-network convex optimization, where nodes in a network seek for a consensus that minimizes the sum of their individual objective functions through local interactions only. The proposed DEAN algorithms allow each node to repeatedly perform a local approximate Newton update, so that the nodes not only jointly track the global Newton direction but also drive each other closer. Under a less restrictive assumption (i.e., local strong convexity) in comparison with the existing second-order methods, the DEAN algorithms enable the nodes to reach a consensus that can be arbitrarily close to the optimum. Moreover, for a particular DEAN algorithm, the nodes linearly converge to a common suboptimal solution with an explicit error bound and we also provide the iteration complexity for the suboptimal solution to achieve any given accuracy. Furthermore, we show that when the problem reduces to a quadratic program, the DEAN algorithms are guaranteed to converge to the exact optimum at a linear rate. Finally, simulations demonstrate the competitive performance of DEAN in convergence speed, accuracy, and efficiency.

研究の動機と目的

• ノードが局所的相互作用のみを用いて、局所的目的関数の和を最小化するネットワーク内凸最適化を扱う。
• 従来の2次最適化手法の限界を克服するため、グローバルな強い凸性仮定を局所的強い凸性へ緩和する。
• ノードが共同でグローバル・ニュートン方向を追跡できる分散アルゴリズムを設計し、共通解への収束を促進する。
• 局所的強い凸性のもとで、明示的な誤差境界を伴い、劣化解へ線形収束することを達成する。また、二次計画問題では正確な最適解へ収束する。
• シミュレーションを通じて、従来の手法に比べ、収束速度、精度、効率性の向上を実証する。

提案手法

• 各ノードが局所的情報と隣接ノードとの相互作用のみを用いて繰り返し局所的近似ニュートン更新を行うDEANアルゴリズムのクラスを提案する。
• 中央集権的調整なしに、ノードが共同でグローバル・ニュートン方向を推定・追跡する分散メカニズムを導入する。
• 局所的ヘッセ行列の近似を用いることで、分散性を維持しつつ2次最適化を実現する。
• グローバルな強い凸性ではなく、より弱い局所的強い凸性の仮定のもとで収束保証を確立する。
• 特定のDEANアルゴリズムにおいて、劣化解の明示的誤差境界を導出し、真の最適解からの距離を定量化する。
• 問題が二次計画問題に還元される場合、正確な最適解への線形収束を証明する。

実験結果

リサーチクエスチョン

• RQ1 分散型2次最適化手法は、グローバルな強い凸性よりも弱い凸性仮定のもとで線形収束を達成できるか？
• RQ2 ネットワーク内のノードは、局所的情報と隣接ノードとの通信のみを用いて、グローバル・ニュートン方向をどのように共同で近似できるか？
• RQ3 DEANアルゴリズムが到達する解の劣化ギャップは何か？ そして、それを明示的に境界づけることができるか？
• RQ4 DEANフレームワークは、二次計画問題において正確な最適解への収束を保証するか？
• RQ5 DEANの収束速度と精度は、既存の分散最適化手法と比べてどのように異なるか？

主な発見

• 局所的強い凸性のもとで、DEANアルゴリズムは共通の劣化解へ線形収束を達成し、真の最適解からの距離を明示的な誤差境界で定量化する。
• 二次計画問題では、DEANアルゴリズムは正確な最適解へ線形収束し、この特殊ケースにおいて正確なグローバル収束を示す。
• 任意の与えられた精度に達するまでのDEANアルゴリズムの反復複雑度が明示的に特徴づけられており、性能予測が可能である。
• シミュレーションにより、DEANは従来の手法に比べ収束速度、精度、計算効率性の面で優れていることが確認された。
• 提案手法はグローバルな強い凸性の要件を緩和しており、より広範な分野の分散最適化問題への適用が可能である。
• 分散型ニュートン方向追跡メカニズムにより、中央集権的計算やグローバル情報なしにノード間の有効な協調が可能である。