[論文レビュー] A Simple Parallel Algorithm with an $O(1/t)$ Convergence Rate for General Convex Programs

Hao Yu, Michael J. Neely|arXiv (Cornell University)|Dec 28, 2015

Advanced Optimization Algorithms Research参考文献 13被引用数 4

ひとこと要約

本稿では、微分不能な目的関数とリプシッツ連続な制約をもつ一般の凸計画問題に対して、新規の並列型原双対アルゴリズムを提案する。修正された仮想キュー更新と原問題更新における2次罰則項を用いることで、古典的双対勾配法のO(1/√t)より優れたO(1/t)収束速度を達成し、ADMMの線形制約に限られる制限を超えて拡張する。

ABSTRACT

This paper considers convex programs with a general (possibly non-differentiable) convex objective function and Lipschitz continuous convex inequality constraint functions. A simple algorithm is developed and achieves an $O(1/t)$ convergence rate. Similar to the classical dual subgradient algorithm and the ADMM algorithm, the new algorithm has a parallel implementation when the objective and constraint functions are separable. However, the new algorithm has a faster $O(1/t)$ convergence rate compared with the best known $O(1/\sqrt{t})$ convergence rate for the dual subgradient algorithm with primal averaging. Further, it can solve convex programs with nonlinear constraints, which cannot be handled by the ADMM algorithm. The new algorithm is applied to a multipath network utility maximization problem and yields a decentralized flow control algorithm with the fast $O(1/t)$ convergence rate.

研究の動機と目的

• 微分不能な目的関数とリプシッツ連続な不等式制約をもつ一般の凸計画問題に対して、単純で並列化可能なアルゴリズムの開発を目的とする。
• 古典的双対勾配法に原変数の平均化を適用した手法が達成するO(1/√t)の収束速度よりも速い収束速度を達成することを目的とする。
• ADMMが線形等式制約に限定されるのを克服し、非線形制約を扱えるようにすることを目的とする。
• 目的関数と制約が分離可能であるネットワーク・ユーティリティ最大化問題における分散型実装を可能とすることを目的とする。
• マルチパスフロー制御および二次計画問題における数値実験を通じて、O(1/t)収束速度の検証を目的とする。

提案手法

• 原変数更新において、f(x) + [Q(t) + g(x(t-1))]^T g(x) + α‖x - x(t-1)‖² を x ∈ X で最小化する。
• 仮想キュー更新則を採用：Q_k(t+1) = max{-g_k(x(t)), Q_k(t) + g_k(x(t))}。標準の双対勾配法とは異なり、0 の代わりに -g_k(x(t)) を使用する。
• 原反復の平均化を適用：x̄(t) = (1/t) Σ_{τ=0}^{t-1} x(τ)。この平均値はO(1/t)誤差で解に収束する。
• f(x) と g_k(x) が x の成分またはブロックごとに分離可能な場合、並列処理が可能となる。
• 収束を保証するため、α ≥ β²/2 を満たす。ここで β は g(x) のリプシッツモジュラスである。
• 強い双対性とラグランジュ乗数の存在（仮定2）を用いて、収束保証を確立する。

実験結果

リサーチクエスチョン

• RQ1 単純な原双対アルゴリズムは、微分不能な目的関数と非線形制約をもつ一般の凸計画問題に対して、O(1/t)収束を達成できるか？
• RQ2 提案アルゴリズムの収束速度は、原変数の平均化を適用した双対勾配法（O(1/√t)）と比較してどのように異なるか？
• RQ3 目的関数と制約関数が分離可能な場合、アルゴリズムは並列化可能か？
• RQ4 非線形制約をもつ実用的ネットワーク・ユーティリティ最大化問題において、アルゴリズムは高速な収束を維持できるか？
• RQ5 二次計画問題のような大規模凸計画問題において、O(1/t)収束速度は実験的に確認できるか？

主な発見

• 提案アルゴリズムは、原反復平均 x̄(t) に対して O(1/t) 収束速度を達成し、原変数の平均化を適用した双対勾配法の O(1/√t) よりも著しく速い。
• マルチパス同時フローやパワーキャンセリング問題における数値結果から、アルゴリズム1は双対勾配法に比べて収束が速いことが示された。
• x ∈ ℝ¹⁰⁰ の大規模二次計画問題において、α = (1/2)β² + 1 を用いたアルゴリズム1は、ステップサイズ 0.01 の双対勾配法よりも収束が速かった。
• f(x̄(t)) - f* と制約違反の対数プロットにおいて、t が大きい範囲で 1/t と平行な曲線が得られ、O(1/t) 収束速度が確認された。
• ADMMとは異なり、非線形制約を扱える。
• max{-g_k(x(t)), ...} を用いた仮想キュー更新則により、標準の双対勾配法よりも収束が速く、双対変数の追跡性能が向上した。