[論文レビュー] A Distributed Newton Method for Network Utility Maximization

Ermin Wei, Asuman Ozdaglar+1 more|arXiv (Cornell University)|May 14, 2010

Distributed Control Multi-Agent Systems参考文献 30被引用数 6

ひとこと要約

本稿では、ネットワーク・ユーティリティ・マキマイゼーション（NUM）問題に対する分散型ニュートン型アルゴリズムを提案する。この手法は、ニュートン方向を計算するための反復的・分散型行列分割法と、不正確なニュートン減少量に基づく分散型ステップサイズルールを用いることで、超線形収束を達成する。本手法は一次元手法と同一の通信パターンを維持しながら、有限精度計算誤差が存在する場合でさえも収束速度を著しく向上させる。

ABSTRACT

Most existing work uses dual decomposition and subgradient methods to solve Network Utility Maximization (NUM) problems in a distributed manner, which suffer from slow rate of convergence properties. This work develops an alternative distributed Newton-type fast converging algorithm for solving network utility maximization problems with self-concordant utility functions. By using novel matrix splitting techniques, both primal and dual updates for the Newton step can be computed using iterative schemes in a decentralized manner with limited information exchange. Similarly, the stepsize can be obtained via an iterative consensus-based averaging scheme. We show that even when the Newton direction and the stepsize in our method are computed within some error (due to finite truncation of the iterative schemes), the resulting objective function value still converges superlinearly to an explicitly characterized error neighborhood. Simulation results demonstrate significant convergence rate improvement of our algorithm relative to the existing subgradient methods based on dual decomposition.

研究の動機と目的

• 大規模なNUM問題を解く際、既存のデュアル分解法および一次元手法の収束が遅いという問題に取り組む。
• 一次元手法より高速な収束を達成しつつ、分散型情報交換を維持する分散型の二階微分法を開発する。
• 反復的スケームとコンSENSUSアルゴリズムを用いて、ニュートン方向とステップサイズを分散的に計算可能にする。
• 不正確なニュートン方向およびステップサイズ計算を想定した収束解析を行い、誤差近傍領域内での超線形収束を示す。
• 有限の反復回数で打ち切られた反復的計算による誤差を、分散的かつ有限時間で検証できる手順を設計する。

提案手法

• 不等式制約付きNUM問題をスラック変数と対数バリア関数を用いて等式制約問題に変換する。
• 独創的な行列分割技術を用い、ニュートンステップに必要なヘッセ行列の逆行列計算を、ソースとリンク間の分散的・反復的更新に分解する。
• 閾値を超えると不正確なニュートン減少量に反比例する分散型ステップサイズルールを実装する。それ未満の場合は純粋なニュートンステップを用いる。
• 一次元手法と同一の通信メカニズムを用いて、コンSENSUSに基づく手順により不正確なニュートン減少量を分散的に計算する。
• 二段階の分散型誤差チェック手法を導入：第一段階では事前に定めた反復回数で誤差許容範囲を検証し、第二段階では有限反復基準を用いて精緻化する。
• 最大コンセンサスアルゴリズムを用いて、局所的ノルムおよび状態差分のグローバル最大値を計算し、誤差指標の分散的実装を可能にする。

実験結果

リサーチクエスチョン

• RQ1 一次元手法と同一の通信パターンを維持する分散型ニュートン型手法を、NUM問題に適用可能か？
• RQ2 グローバル行列の逆行列計算を必要とせずに、ニュートン方向を分散的にどのように計算できるか？
• RQ3 ニュートン方向とステップサイズの両方が誤差を含んで計算される場合、どのようなステップサイズルールが局所的超線形収束を保証するか？
• RQ4 ニュートン方向とステップサイズを計算するための反復的スキームを有限回で打ち切った場合でも、収束を保証できるか？
• RQ5 不正確なニュートンステップの誤差許容範囲を、分散的かつ有限時間内にどのように検証できるか？

主な発見

• 提案手法は、不正確なニュートン方向とステップサイズが存在する場合でも、明示的に特定された誤差近傍領域内での超線形収束を達成する。
• プライマル反復の観点から、シミュレーションにおいて一次元デュアル分解法を著しく上回る収束速度を示す。
• 誤差近傍領域の大きさは、ニュートン方向およびステップサイズ計算における誤差バウンドの関数として明示的に定量化できる。
• 分散型誤差チェック手順は有限時間で終了し、ローカル情報交換とコンセンサスアルゴリズムのみで実装可能である。
• 第一段階では最大2回の最大コンセンサス操作が必要であり、第二段階では1回/反復で十分であり、効率的な分散実装が可能である。
• 情報交換のための通信パターンは一次元手法と同一であり、スケーラビリティと実用的導入性を保証する。