[論文レビュー] General Proximal Incremental Aggregated Gradient Algorithms: Better and Novel Results under General Scheme

Tao Sun, Yuejiao Sun+2 more|arXiv (Cornell University)|Oct 11, 2019

Sparse and Compressive Sensing Techniques被引用数 7

ひとこと要約

本稿では、非凸目的関数、より大きなステップサイズ、ノイズ耐性を許容するように拡張することで、従来の手法を一般化した一般化型プロキシマルインクリメンタル集約勾配（PIAG）アルゴリズムを提案する。非凸関数におけるサブ線形収束速度および一般条件の下でのより大きなステップサイズにおける線形収束という、新たな収束結果を確立し、従来の研究が強い凸性と小さなステップサイズを要していたという制限を克服する。

ABSTRACT

The incremental aggregated gradient algorithm is popular in network optimization and machine learning research. However, the current convergence results require the objective function to be strongly convex. And the existing convergence rates are also limited to linear convergence. Due to the mathematical techniques, the stepsize in the algorithm is restricted by the strongly convex constant, which may make the stepsize be very small (the strongly convex constant may be small). In this paper, we propose a general proximal incremental aggregated gradient algorithm, which contains various existing algorithms including the basic incremental aggregated gradient method. Better and new convergence results are proved even with the general scheme. The novel results presented in this paper, which have not appeared in previous literature, include: a general scheme, nonconvex analysis, the sublinear convergence rates of the function values, much larger stepsizes that guarantee the convergence, the convergence when noise exists, the line search strategy of the proximal incremental aggregated gradient algorithm and its convergence.

研究の動機と目的

• 強い凸性と小さなステップサイズを要する従来のインクリメンタル勾配法の限界を解消すること。
• 一般的で非凸的かつノイズありの設定に適用可能な、プロキシマルインクリメンタル集約勾配アルゴリズムの統一的枠組みを構築すること。
• これまでに可能な範囲よりも広い条件下で収束および収束速度の結果を確立すること。
• リプシッツ定数の事前知識が不要な条件下で収束を保証するラインサーチ戦略を導入すること。

提案手法

• 遅延およびノイズあり勾配近似 $ v^k = \sum_{i=1}^m \nabla f_i(x^{k-\tau_{i,k}}) + e^k $ を用いた一般化PIAGアルゴリズムを提案する。
• 一般凸性および非凸性の下での収束解析に新たなリャプノフ関数 $ F_k(\varepsilon,t) $ を導入する。
• 降下条件に基づきステップサイズを段階的に選択するラインサーチ戦略を採用し、既知のリプシッツ定数に依存しない。
• 遅延 $ \tau_{i,k} $、ノイズ $ e^k $、および $ x^{k+1} = \text{prox}_{\gamma_k g}[x^k - \gamma_k v^k] $ を用いた一般化スキームを用いる。
• 技術的補題を用いて目的関数の減少を評価し、再帰的不等式を介して収束を確立する。
• リャプノフ関数の減衰を解析し、遅延にわたる勾配誤差の和を評価することで収束速度を導出する。

実験結果

リサーチクエスチョン

• RQ1 強い凸性を要しない非凸目的関数に対して、一般化PIAGアルゴリズムの収束を確立できるか？
• RQ2 一般PIAGフレームワークにおいて、収束を保証する最大の許容ステップサイズは何か？
• RQ3 遅延およびノイズは、インクリメンタル集約勾配法の収束挙動にどのように影響を与えるか？
• RQ4 リプシッツ定数の事前知識がなくても収束を保証するラインサーチ戦略をPIAGに設計できるか？
• RQ5 提案されたフレームワーク下で、一般凸および非凸の場合に達成可能な収束速度は何か？

主な発見

• 本稿では、強い凸性を要さない一般凸ケースにおいても、目的関数値のサブ線形収束速度が証明されている。
• 従来の研究よりも大きなステップサイズを用いても線形収束が確立されており、強い凸性定数に依存しないという点で、新たな前進を示している。
• 非凸性の下でも収束が証明されており、PIAGの適用範囲が強い凸問題に限定されないことが拡張された。
• ノイズが存在する状況でもアルゴリズムは収束し、有界なノイズ仮定のもとで収束速度が維持される。
• ラインサーチ戦略が提案され、収束を保証するものとして証明されており、リプシッツ定数の事前知識がなくてもステップサイズの適応的選択が可能になる。
• 従来にない収束結果が確立されており、勾配誤差の減衰に関する境界および反復点が停留点に収束することを示している。