[論文レビュー] Distributed Subgradient Methods and Quantization Effects

Angelia Nedić, Alex Olshevsky+2 more|ArXiv.org|Mar 8, 2008

Distributed Control Multi-Agent Systems参考文献 16被引用数 6

ひとこと要約

本稿は、時変するトポロジーを持つネットワークにおける凸最適化のための分散型部分勾配法を提案する。エージェントは局所的な計算と通信を用いて、局所的凸関数の和を共同で最小化する。本稿では、エージェント数に多項式的依存性を示す改善された収束速度の上限を確立し、量子化情報のみを交換する場合に、量子化レベルの数に比例して増大する明示的な誤差上限を提示する。これにより、量子化に起因する誤差範囲内に最適解に収束することが示された。

ABSTRACT

We consider a convex unconstrained optimization problem that arises in a network of agents whose goal is to cooperatively optimize the sum of the individual agent objective functions through local computations and communications. For this problem, we use averaging algorithms to develop distributed subgradient methods that can operate over a time-varying topology. Our focus is on the convergence rate of these methods and the degradation in performance when only quantized information is available. Based on our recent results on the convergence time of distributed averaging algorithms, we derive improved upper bounds on the convergence rate of the unquantized subgradient method. We then propose a distributed subgradient method under the additional constraint that agents can only store and communicate quantized information, and we provide bounds on its convergence rate that highlight the dependence on the number of quantization levels.

研究の動機と目的

• 時変するトポロジーを持つエージェントネットワークにおいて、凸関数の和を最適化する分散型部分勾配法の開発。
• 最近の平均化アルゴリズム収束に関する結果を用いて、非量子化分散型部分勾配法の収束速度の上限を改善すること。
• エージェント間通信および記憶における量子化の影響による性能劣化の分析。
• 量子化レベルの数に明示的に依存する収束速度の上限を導出すること。
• 量子化に起因する誤差範囲内で最適解に収束することを確立し、誤差上限をエージェント数に関して多項式的依存性にすること。

提案手法

• エージェントは最適解の局所的推定値を維持し、局所的目的関数の部分勾配ステップと、時間変動する近隣接続を介した平均化を組み合わせて更新する。
• 通信と平均化をモデル化するために、時間変動する確率的重み行列を用い、初期推定値の平均値への合意形成を保証する。
• 局所的関数の部分勾配を用いた部分勾配ステップを、減少するステップサイズルールと組み合わせて適用する。
• 量子化通信の場合は、Qレベルの均等量子化器を用いてエージェントの状態推定値を量子化し、有界な量子化誤差を導入する。
• 分散平均化アルゴリズムの収束時間に関する境界を活用して、部分勾配法の誤差上限を導出する。
• 最適集合への距離と部分勾配の有界性を用いて理論的境界を導出し、誤差項は量子化分解能およびネットワークパラメータに依存する。

実験結果

リサーチクエスチョン

• RQ1 ネットワークトポロジーが時間とともに変化する状況において、分散型部分勾配法の収束速度をどのように改善できるか？
• RQ2 量子化通信が分散型部分勾配法の収束速度および最終的精度に与える影響は何か？
• RQ3 量子化レベルの数が分散最適化における収束誤差にどのように影響するか？
• RQ4 収束誤差を、指数的依存性ではなくエージェント数に関して多項式的依存性を示す形で有界化できるか？
• RQ5 量子化が細かくなる（すなわち Q → ∞）場合、この手法の極限的挙動はいかなるものか？

主な発見

• 本稿では、エージェント数 n に関して多項式的依存性を示す、非量子化分散型部分勾配法の収束速度に対する新しい上界を確立し、従来の指数的依存性を改善した。
• 量子化版では、最適目的値への収束誤差が量子化レベル Q に依存するが、誤差項は O(1/Q) のオーダーで増大する。
• 量子化された手法の収束誤差には、決定変数の次元 m に比例する √m / Q の項が含まれ、量子化分解能の影響を反映している。
• Q → ∞ のとき、量子化手法の誤差上限は非量子化手法のものに収束し、極限において一貫性があることが確認された。
• 時間平均化された反復値の誤差上限には、反復回数 k と共に減少する O(1/k) 項に加え、量子化に起因する定数誤差項が含まれる。
• 解析により、収束誤差が n に関して多項式的依存性を示すことが判明し、ネットワークの接続性および部分勾配の有界性に依存する定数を含む。従来の研究で見られた指数的依存性を回避した。