[論文レビュー] Distributed Stochastic Approximation for Solving Network Optimization Problems Under Random Quantization

Thinh T. Doan, Siva Theja Maguluri+1 more|arXiv (Cornell University)|Oct 27, 2018

Distributed Control Multi-Agent Systems参考文献 35被引用数 9

ひとこと要約

本稿では、有限帯域幅制約下でのネットワーク最適化問題を解くために、ランダムにジタされた量子化を用いた分散確率的近似アルゴリズムを提案する。ネットワークのトポロジーと量子化分解能に依存する明示的な収束速度の上限を確立し、有限ビット量子化下で強い凸関数に対してO(1/k^{1/3})の収束を達成する。これは、帯域幅を増加させる必要がある従来の手法に比べ、顕著な進歩である。

ABSTRACT

We study distributed optimization problems over a network when the communication between the nodes is constrained, and so information that is exchanged between the nodes must be quantized. This imperfect communication poses a fundamental challenge, and this imperfect communication, if not properly accounted for, prevents the convergence of these algorithms. Our first contribution in this paper is to propose a modified consensus-based gradient method for solving such problems using random (dithered) quantization. This algorithm can be interpreted as a distributed variant of a well-known two-time-scale stochastic algorithm. We then study the convergence and derive upper bounds on the rates of convergence of the proposed method as a function of the bandwidths available between the nodes and the underlying network topology, for both convex and strongly convex objective functions. Our results complement for existing literature where such convergence and explicit formulas of the convergence rates are missing. Finally, we provide numerical simulations to compare the convergence properties of the distributed gradient methods with and without quantization for solving the well-known regression problems over networks, for both quadratic and absolute loss functions.

研究の動機と目的

• 量子化された情報交換に起因する通信帯域幅の制限があるネットワークにおける分散最適化の課題に対処すること。
• 通常の手法では収束を妨げる量子化誤差が存在する状況でも、収束を維持する分散アルゴリズムの開発。
• ネットワークトポロジーと利用可能な帯域幅（量子化ビット数）を関数として明示的な収束速度の上限を導出すること。
• 二時刻スケール確率的近似フレームワークを、ランダム量子化を伴う分散設定に拡張すること。
• 重回帰問題における2次損失関数と絶対損失関数の数値実験を通じて、理論的考察の妥当性を検証すること。

提案手法

• 量子化誤差を低減し、収束を可能にするために、ランダムにジタされた量子化を用いた二時刻スケール確率的近似の分散版を提案する。
• ノードが局所的勾配と状態の量子化推定値を交換する、コセンサスに基づく勾配法を導入する。
• 二時刻スケールフレームワークにおける追跡と平均化のバランスを取るために、時間変動するステップサイズα(t)とβ(t)をO(1/t^{1/3})の速度で減少させる。
• ネットワークトポロジーをモデル化するための混合行列Wを用い、σ₂ < 1のスペクトル的性質により収束を保証する。
• ジェンセンの不等式と強い凸性を用いて、期待される非最適性と反復の平均二乗誤差を関連付ける。
• 再帰的不等式と調和級数に類似した和の積分テストを用いて、期待誤差の上界を導出する。

実験結果

リサーチクエスチョン

• RQ1 有限ビットのランダム量子化下で、帯域幅の増加を要せず収束する分散確率的近似アルゴリズムは可能か？
• RQ2 ネットワークトポロジーと量子化分解能を関数として、そのようなアルゴリズムの明示的な収束速度は何か？
• RQ3 量子化誤差が存在する状況で、ステップサイズの選択が収束に与える影響は？
• RQ4 二時刻スケール確率的近似フレームワークは、量子化通信を伴う分散設定に適応可能か？
• RQ5 本手法は、非量子化分散勾配法と比較して、収束速度と精度の面でどのように異なるか？

主な発見

• 提案手法は、有限ビットのランダム量子化下で強い凸関数に対してO(1/k^{1/3})の収束速度を達成し、ネットワークトポロジーと量子化分解能に明示的な依存関係を示す。
• 収束速度は、混合行列の2番目に大きな特異値σ₂の関数として導出され、σ₂が小さい（より接続性の高いネットワーク）ほど収束が速くなる。
• 期待される非最適性は、O(1/(k+2))およびO(1/(k+2)^{1/3})に比例する項で有界であり、初期誤差、ネットワーク構造、量子化パラメータに依存する係数を含む。
• 帯域幅の増加を要せず、真の最適解への漸近的収束を保証する。これは、従来の手法が反復ごとに増加するビット数を必要としていたのとは対照的である。
• 数値実験により理論的収束速度が確認され、回帰問題において非量子化手法と比較して、量子化下でも優れた収束特性を示す。
• 本研究は、有限ビットのランダム量子化下における分散確率的近似の明示的収束速度の公式を初めて導出し、既存の文献における空白を埋める。