[論文レビュー] A Stronger Convergence Result on the Proximal Incremental Aggregated Gradient Method

N. Denizcan Vanli, Mert Gürbüzbalaban+1 more|arXiv (Cornell University)|Nov 23, 2016

Stochastic Gradient Optimization Techniques参考文献 4被引用数 8

ひとこと要約

本稿では、滑らかでない成分を含む複合凸最適化問題を解くためのProximal Incremental Aggregated Gradient (PIAG)法について、より強いグローバル線形収束レートを提示する。著者らは、新規のリャプノフ関数解析と洗練された収縮議論を用いて、以前のKの2次的依存を置き換える、Q（条件数）およびK（遅延パラメータ）に線形に依存する改善された反復複雑度𝒪(QK log(1/ε))を確立する。

ABSTRACT

We study the convergence rate of the proximal incremental aggregated gradient (PIAG) method for minimizing the sum of a large number of smooth component functions (where the sum is strongly convex) and a non-smooth convex function. At each iteration, the PIAG method moves along an aggregated gradient formed by incrementally updating gradients of component functions at least once in the last $K$ iterations and takes a proximal step with respect to the non-smooth function. We show that the PIAG algorithm attains an iteration complexity that grows linear in the condition number of the problem and the delay parameter $K$. This improves upon the previously best known global linear convergence rate of the PIAG algorithm in the literature which has a quadratic dependence on $K$.

研究の動機と目的

• 複合凸最適化問題に対するProximal Incremental Aggregated Gradient (PIAG)法のグローバル収束レートを改善すること。
• PIAGの収束結果において、遅延パラメータKに起因する非最適な2次的依存を解消すること。
• 条件数Qおよび遅延パラメータKの両方に線形にスケーリングする、よりタイトな反復複雑度バウンドを確立すること。
• [1]および[4]の既存の収束解析を統一・強化し、洗練されたリャプノフ関数アプローチを用いること。
• 問題の条件数および遅延に最適な依存性を示すステップサイズルールを提供すること。

提案手法

• 手法は、成分関数の勾配が遅延Kを伴い、各反復で集約される、プロキシマルインクリメンタルアグリゲートド.gradient更新を採用する。
• アルゴリズムは、滑らかでない凸正則化関数r(x)に関するプロキシマルステップを用い、次式で定義されるプロキシマル作用素により表現される：prox_r^η(y) = argmin_x { ||x−y||²/2 + ηr(x) }。
• 遅延勾配からの摂動を考慮した、部分最適性F_k − F*の進化を捉えるために、新規のリャプノフ関数が構築される。
• 収束証明は、2つの主要な補題を組み合わせる：[4]におけるプロキシマル作用素の性質に関する補題と、[1]における小さな摂動下でのリャプノフ関数の線形収束に関する補題。
• 部分最適性F_kに対する収縮不等式が導出され、これは、線形収束を満たすためのLemma 3.3の条件を満たす再帰関係を導く。
• ステップサイズはη = (16/μ)[(1 + 1/(48Q))^{1/(K+1)} − 1]として選ばれ、収縮係数がKに対して線形に依存することを保証する。

実験結果

リサーチクエスチョン

• RQ1 PIAG法の収束レートは、以前に知られていた𝒪(QK²)の反復複雑度を上回って改善可能か？
• RQ2 PIAGの収束レートにおける遅延パラメータKの依存性は、2次的ではなく線形的スケーリングにできるか？
• RQ3 遅延勾配情報に対応するリャプノフ関数を用いることで、よりタイトな収縮解析が達成可能か？
• RQ4 QおよびKの両方に線形依存で、関数部分最適性におけるグローバル線形収束レートを導出可能か？
• RQ5 KおよびQに最小限の依存性を持つ最適な収束を保証するステップサイズルールは何か？

主な発見

• PIAG法は、関数部分最適性F(x_k) − F(x*)において、1 − 𝒪(Q⁻¹K⁻¹)のグローバル線形収束レートを達成する。
• これは、ε-最適解に到達するための反復複雑度が、以前の𝒪(QK² log(1/ε))から𝒪(QK log(1/ε))に改善されることを意味する。
• 収束レートは、遅延Kを伴う勾配更新を考慮した洗練されたリャプノフ関数解析により確立される。
• ステップサイズη = (16/μ)[(1 + 1/(48Q))^{1/(K+1)} − 1]は、収縮係数(1 − 1/(49Q(K+1)))^kを有する線形収束を保証する。
• 本結果は、決定的インクリメンタルアグリゲートド.gradient法において、条件数Qおよび遅延パラメータKの両方に対する最良の既知の依存性を提供する。
• 解析は[1]および[4]の先行結果を統合・強化し、収縮係数に対数因子を含まずに成立するよりタイトなバウンドを提供する。