[論文レビュー] Convergence Analysis of a Stochastic Projection-free Algorithm.

Jean Lafond, Hoi-To Wai+1 more|arXiv (Cornell University)|Oct 5, 2015

Sparse and Compressive Sensing Techniques参考文献 25被引用数 11

ひとこと要約

本稿では、制約付き凸最適化のための確率的Frank-Wolfeアルゴリズムを提案し、一般条件下で収束速度 $ olimits\mathcal{O}(\sqrt{\eta_t^{\Delta}}/t)$ と、最適解が内部にある場合に $ olimits\mathcal{O}(\eta_t^{\Delta}/t)$ を示した。実用的な機械学習応用における勾配推定の誤差に対してきめ細かな境界を確立し、数値シミュレーションによって結果を検証した。

ABSTRACT

This paper presents and analyzes a stochastic version of the Frank-Wolfe algorithm (a.k.a. conditional gradient method or projection-free algorithm) for constrained convex optimization. We first prove that when the quality of gradient estimate improves as ${\cal O}( \sqrt{ \eta_t^{\Delta} / t } )$, where $t$ is the iteration index and $\eta_t^{\Delta}$ is an increasing sequence, then the objective value of the stochastic Frank-Wolfe algorithm converges in at least the same order. When the optimal solution lies in the interior of the constraint set, the convergence rate is accelerated to ${\cal O}(\eta_t^{\Delta} /t)$. Secondly, we study how the stochastic Frank-Wolfe algorithm can be applied to a few practical machine learning problems. Tight bounds on the gradient estimate errors for these examples are established. Numerical simulations support our findings.

研究の動機と目的

• 制約下での効率的最適化を可能にする、投影ステップを回避するFrank-Wolfeアルゴリズムの確率的変種の開発と分析。
• 勾配推定誤差が制御された条件下での、確率的Frank-Wolfe法の収束速度の確立。
• 最適解の相対的内部性が収束速度に与える影響の調査。
• 実世界の機械学習問題における勾配推定誤差のきめ細かな境界の導出。
• 実用的応用における理論的発見の数値シミュレーションによる検証。

提案手法

• 各反復でノイズを含む勾配推定を使用するが、制約集合への明示的投影を回避する確率的Frank-Wolfeアルゴリズムを提案。
• 勾配推定の品質を制御するための列 $\eta_t^{\Delta}$ を導入し、時間の経過とともに改善される。
• 反復回数 $t$ と $\eta_t^{\Delta}$ を用いて期待される最適性ギャップの境界を設定することで収束を分析。
• 一般条件下では収束速度が $\mathcal{O}(\sqrt{\eta_t^{\Delta}}/t)$、最適解が制約集合の相対的内部にある場合には $\mathcal{O}(\eta_t^{\Delta}/t)$ であることを導出。
• 実用的な機械学習問題にアルゴリズムを適用し、問題固有の勾配推定誤差の境界を導出。
• 数値シミュレーションを用いて理論的収束速度と誤差境界の妥当性を検証。

実験結果

リサーチクエスチョン

• RQ1 勾配推定の精度が $\mathcal{O}(\sqrt{\eta_t^{\Delta}}/t)$ の速度で向上する場合、確率的Frank-Wolfeアルゴリズムの収束速度は何か？
• RQ2 最適解が制約集合の内部にある場合、収束速度はどのように変化するか？
• RQ3 確率的Frank-Wolfe法の特定の機械学習応用における勾配推定誤差のきめ細かな境界は何か？
• RQ4 理論的収束速度は、数値シミュレーションによって実証可能か？
• RQ5 $\eta_t^{\Delta}$ の選択がアルゴリズムの収束挙動に与える影響は何か？

主な発見

• 勾配推定の品質が $\mathcal{O}(\sqrt{\eta_t^{\Delta}}/t)$ の速度で向上する場合、確率的Frank-Wolfeアルゴリズムは収束速度 $\mathcal{O}(\sqrt{\eta_t^{\Delta}}/t)$ を達成する。
• 最適解が制約集合の内部にある場合、収束速度は $\mathcal{O}(\eta_t^{\Delta}/t)$ に向上する。
• 特定の機械学習応用に対して、勾配推定誤差のきめ細かな境界が導出され、理論的収束保証を裏付けた。
• 数値シミュレーションにより理論的収束速度が確認され、提案されたアルゴリズムの有効性が検証された。
• 制御された確率的誤差条件下でも、投影フリーの性質を維持しながら収束を達成する。