[論文レビュー] Incremental Gradient, Subgradient, and Proximal Methods for Convex Optimization: A Survey

Dimitri P. Bertsekas|arXiv (Cornell University)|Jul 3, 2015

Stochastic Gradient Optimization Techniques被引用数 11

ひとこと要約

本稿は、凸最適化のための段階的勾配、部分勾配、およびプロキシマル手法を調査し、循環的成分選択および減少するステップサイズの下での収束を分析する。本稿は、生成された系列が最適値に収束することを証明し、lim inf F(x_k) = F* を確立することで、標準的なステップサイズ条件の下で解集合が空でない場合のグローバル収束を示している。

ABSTRACT

We survey incremental methods for minimizing a sum $\sum_{i=1}^mf_i(x)$ consisting of a large number of convex component functions $f_i$. Our methods consist of iterations applied to single components, and have proved very effective in practice. We introduce a unified algorithmic framework for a variety of such methods, some involving gradient and subgradient iterations, which are known, and some involving combinations of subgradient and proximal methods, which are new and offer greater flexibility in exploiting the special structure of $f_i$. We provide an analysis of the convergence and rate of convergence properties of these methods, including the advantages offered by randomization in the selection of components. We also survey applications in inference/machine learning, signal processing, and large-scale and distributed optimization.

研究の動機と目的

• 段階的勾配、部分勾配、およびプロキシマル変種を含む、凸最適化のための包括的なサーベイを提供すること。
• 循環的成分選択および減少ステップサイズの下でのこれらの手法の収束行動を分析すること。
• 標準的な仮定の下で、最適解値への収束の理論的保証を確立すること。
• 最適解集合が空でない場合にまで収束結果を拡張すること。

提案手法

• 目的関数の成分を選択するための循環的順序を用いた段階的更新を適用するアルゴリズム (2.12)–(2.14) を分析する。
• lim_k→∞ α_k = 0 および ∑_k=0^∞ α_k = ∞ を満たす減少ステップサイズ列 α_k を用いて、持続的な探索を保証する。
• 各成分関数を循環的に処理する段階的部分勾配手法の枠組みを採用する。
• 反復点における目的関数値の下限が最適値に近づくことを示す収束解析技術を適用する。
• 凸解析からの標準的仮定（成分の凸性および部分勾配の有界性）に依拠する。
• lim inf_k→∞ F(x_k) = F* を通じて収束を確立し、関数値の系列が最適値に集積することを示す。

実験結果

リサーチクエスチョン

• RQ1 段階的勾配、部分勾配、およびプロキシマル手法が最適解値に収束する条件は何か？
• RQ2 循環的成分選択は段階的最適化手法の収束行動にどのように影響するか？
• RQ3 目的関数値の系列が最適値に近づくのを保証するためのステップサイズ条件は何か？
• RQ4 最適解集合が空でない場合に、減少ステップサイズのもとで収束を保証できるか？
• RQ5 ステップサイズ列の和分可能性および消える条件が収束を保証するために果たす役割は何か？

主な発見

• 循環的成分選択を用いた段階的手法 (2.12)–(2.14) が生成する系列 {x_k} は、lim inf_k→∞ F(x_k) = F* を満たし、最適値への収束を示している。
• lim_k→∞ α_k = 0 および ∑_k=0^∞ α_k = ∞ の条件下では、最適値への収束が保証される。
• 最適解集合 X* が空でない場合でも、ステップサイズ条件を満たしていれば結果は成り立つ。
• 解析により、循環的選択および減少ステップサイズを用いた段階的手法が、目的関数値の意味でグローバル収束を達成することが確認された。