[論文レビュー] Proximal-Proximal-Gradient Method

Ernest K. Ryu, Wotao Yin|arXiv (Cornell University)|Aug 23, 2017

Sparse and Compressive Sensing Techniques参考文献 52被引用数 28

ひとこと要約

本稿では、多数の微分可能および非微分可能凸関数の和を含む大規模な最適化問題を効率的に取り扱える、新しい一次順序最適化アルゴリズムであるproximal-proximal-gradient法（PPG）を提案する。PPGは、ステップサイズに依存しない直接最適化を可能とし、強い凸性およびLipschitz勾配仮定のもとでQ線形収束を達成する。この性質により、並列および分散コンピューティング環境に非常に適している。

ABSTRACT

In this paper, we present the proximal-proximal-gradient method (PPG), a novel optimization method that is simple to implement and simple to parallelize. PPG generalizes the proximal-gradient method and ADMM and is applicable to minimization problems written as a sum of many differentiable and many non-differentiable convex functions. The non-differentiable functions can be coupled. We furthermore present a related stochastic variation, which we call stochastic PPG (S-PPG). S-PPG can be interpreted as a generalization of Finito and MISO over to the sum of many coupled non-differentiable convex functions. We present many applications that can benefit from PPG and S-PPG and prove convergence for both methods. A key strength of PPG and S-PPG is, compared to existing methods, its ability to directly handle a large sum of non-differentiable non-separable functions with a constant stepsize independent of the number of functions. Such non-diminishing stepsizes allows them to be fast.

研究の動機と目的

• 微分可能でない、おそらく結合された凸関数の大きな和を直接処理できる、単純でスケーラブルな一次順序最適化手法の開発。
• プロキシマル・グレディエント法やADMMなどの既存手法を一般化し、非滑らか項の和がプロキシマブルでない問題の直接最適化を可能にする。
• 関数の数に依存しない定常ステップサイズをサポートする手法の設計により、収束をより速くする。
• 大規模およびストリーミングデータ用途に適した、確率的バージョン（S-PPG）への拡張。
• 収束の証明と、特に並列およびGPUアクセcelerated環境における実験的有効性の提示。

提案手法

• PPGは、min r(x) + (1/n)∑(fi(x) + gi(x)) の形をした最適化問題を解く。ここで fi は微分可能で、gi および r は凸かつプロキシマブルである。
• アルゴリズムは3段階の逐次更新を用いる：x^{k+1/2} は z_i^k の平均に対する r のプロキシマル作用素により計算；x_i^{k+1} は勾配ステップに対する gi のプロキシマル作用素により計算；z_i^{k+1} は一致性更新により計算。
• この手法は自然に並列化可能である：z_i の更新は各ワーカーで独立して実行可能であり、x^{k+1/2} の計算には全リダクションによる平均値の算出を必要とする。
• この手法は、関数の数 n に依存しない定常ステップサイズ α をサポートしており、減少ステップサイズを必要とする手法と比較してより速い収束を実現可能である。
• 確率的バージョンであるS-PPGは、Finito や MISO を非可分な非滑らか項を扱えるように一般化する。
• 収束解析では、プライマル・デュアル変数 z と部分勾配項を含むリャプノフ関数を用い、最適性条件を捉える関数 S(z, z*) を用いて、誤差の上界と下界を厳密に導出する。

実験結果

リサーチクエスチョン

• RQ1 多くの非微分可能で結合された凸関数を含む大規模最適化問題を、一次順序手法が効率的に解けるか？
• RQ2 このような手法が、関数の数に依存しない定常ステップサイズを維持でき、より速い収束を実現できるか？
• RQ3 並列および分散コンピューティング、またはGPUアクセcelerated環境に適した、自然に並列化可能な手法として設計できるか？
• RQ4 Finito や MISO を非可分な非滑らか項に一般化できるように、確率的バージョンへの拡張は可能か？
• RQ5 どのような条件下で、この手法がQ線形収束を達成するか？

主な発見

• 問題が強い凸性およびLipschitz勾配条件を満たす場合、PPGはQ線形収束を達成し、収束率は ∥zk+1 − z∗∥ ≤ √(1 − 2αC)∥zk − z∗∥ で与えられる。
• この手法は、関数の数 n に依存しない定常ステップサイズ α をサポートしており、減少ステップサイズを必要とする手法と比較して収束が速い。
• 誤差の上界と下界を厳密に導出するため、部分勾配項 S(z, z*) を含むリャプノフ関数を用いて収束を証明した。
• 確率的バージョンであるS-PPGは、Finito や MISO を非可分な非滑らか関数の和を扱えるように一般化し、その適用範囲を拡張した。
• CUDA GPU上での実験結果から、並列環境における手法の実験的有効性とスケーラビリティが示された。
• 非滑らか項の結合性により、O(nd) のストレージ複雑度が本質的に必要であり、PPGはこの情報を効率的に活用して最適性を検証している。