[論文レビュー] Stochastic inertial primal-dual algorithms

Lorenzo Rosasco, Silvia Villa+1 more|arXiv (Cornell University)|Jul 3, 2015

Sparse and Compressive Sensing Techniques参考文献 40被引用数 4

ひとこと要約

本稿では、ヒルバート空間設定において収束保証のもとで、機械学習における複合最適化問題を解くための、新しい確率的慣性プライマルデュアルアルゴリズムを提案する。主な貢献は、有界なステップサイズと消える確率的誤差を含む一般条件の下で、決定的および確率的設定の両方において反復列が解に収束することを統一的に分析した点である。

ABSTRACT

We propose and study a novel stochastic inertial primal-dual approach to solve composite optimization problems. These latter problems arise naturally when learning with penalized regularization schemes. Our analysis provide convergence results in a general setting, that allows to analyze in a unified framework a variety of special cases of interest. Key in our analysis is considering the framework of splitting algorithm for solving a monotone inclusions in suitable product spaces and for a specific choice of preconditioning operators.

研究の動機と目的

• 学習における複合最適化問題を解くための、確率的かつ慣性的なプライマルデュアル法の拡張を開発すること。
• ヒルバート空間における単調包含枠組み内で、広範な最適化アルゴリズムクラスの統一的収束解析を提供すること。
• 行列の逆行列を必要とせずに、独立して近位作用素を活性化できるようにすること。
• 有界なステップサイズと消える確率的誤差の条件下で収束を確立し、数値的安定性を向上させること。
• 単一の整合的フレームワーク内で慣性と確率性を統合することで、既存のプライマルデュアルスキームを一般化すること。

提案手法

• 本手法は、積ヒルバート空間設定における前処理作用素を用いた確率的慣性前向き後退分割法を採用する。
• 外挿項 $ u_n = w_n + \alpha_n(w_n - w_{n-1}) $ および $ d_{k,n} = v_{k,n} + \alpha_n(v_{k,n} - v_{k,n-1}) $ を用いた慣性ステップにより収束を加速する。
• 正則化項の近位作用素は、共役関数のリゾルベントを用いて独立して計算される：$ q_{k,n} = \text{prox}_{g_k^*}^{W_k^{-1}}(d_{k,n} + W_k D_k s_n) $。
• 正確な勾配の代わりに確率的勾配推定値 $ \mathbf{a}_n $ を使用し、$ \mathbb{E}[\mathbf{a}_n | \mathcal{F}_n] = \nabla F(u_n) $ を満たし、和が収束する誤差分散を持つ。
• プライマル更新 $ w_{n+1} = u_n - V\mathbf{a}_n - \sum_k D_k^* q_{k,n} $ とデュアル更新 $ v_{k,n+1} = v_{k,n} + \lambda_n(q_{k,n} - v_{k,n}) $ を交互に実行する。
• 前処理行列 $ W_k $ および作用素 $ V $ は、条件 $ \sum_k \|W_k^{1/2} D_k V^{1/2}\|^2 < 1 $ を満たすように選択される。

実験結果

リサーチクエスチョン

• RQ1 慣性的および確率的拡張が、単一の収束フレームワークの下で統一可能か？
• RQ2 消える確率的誤差を伴う有界なステップサイズが、確率的プライマルデュアルスキームにおいて安定かつ収束する反復列をもたらすか？
• RQ3 慣性項の導入が、標準的手法と比較して確率的設定における収束行動をどのように改善するか？
• RQ4 本手法は、行列の逆行列を必要とせずに、非分離正則化項および一般線形作用素を処理できるか？
• RQ5 確率的慣性プライマルデュアル法の反復列が弱収束または強収束する条件は何か？

主な発見

• 所定の条件下で、反復列 $ w_n \rightharpoonup \overline{w} $ および $ v_{k,n} \rightharpoonup \overline{v}_k $ がほとんど確実に弱収束する。
• 目的関数 $ F $ が極限点 $ \overline{w} $ で一様凸である場合、強収束 $ w_n \to \overline{w} $ が保証される。
• 有界なステップサイズと和が収束する確率的誤差分散の下で収束が確立され、これは消えるステップサイズスキームに比べて数値的安定性が向上する。
• 既知のプライマルデュアルおよび慣性アルゴリズム（[13, 23, 9] に含まれるものを含む）を、確率性と慣性を統合した統一的フレームワークで一般化している。
• 数値実験により反復列の収束が確認され、多項式辞書設定において回帰関数の良好な近似が得られている。
• 非分離ペナルティを伴うグループlasso型問題を効果的に解き、$ p=32 $、$ s=8 $、$ N=48 $ の条件下で良好な回帰性能を達成している。