[論文レビュー] Fast Stochastic Bregman Gradient Methods: Sharp Analysis and Variance Reduction

Radu-Alexandru Dragomir, Mathieu Even+1 more|arXiv (Cornell University)|Apr 20, 2021

Stochastic Gradient Optimization Techniques参考文献 40被引用数 4

ひとこと要約

本稿では、鋭い収束解析と分散低減を備えた高速な確率的ブレグマン勾配法を提案し、補間設定下でBregman確率的勾配降下法（BSGD）が正確な最小化点に収束すること、および有限和問題において分散低減により高速収束を達成することを示している。提案されたBSAGAアルゴリズムは、トモグラフィック再構成および分散最適化において最先端の性能を達成し、参考関数の正則性に関する理論的仮定にもかかわらず実用的な効率性を示している。

ABSTRACT

We study the problem of minimizing a relatively-smooth convex function using stochastic Bregman gradient methods. We first prove the convergence of Bregman Stochastic Gradient Descent (BSGD) to a region that depends on the noise (magnitude of the gradients) at the optimum. In particular, BSGD with a constant step-size converges to the exact minimizer when this noise is zero (\\emph{interpolation} setting, in which the data is fit perfectly). Otherwise, when the objective has a finite sum structure, we show that variance reduction can be used to counter the effect of noise. In particular, fast convergence to the exact minimizer can be obtained under additional regularity assumptions on the Bregman reference function. We illustrate the effectiveness of our approach on two key applications of relative smoothness: tomographic reconstruction with Poisson noise and statistical preconditioning for distributed optimization.

研究の動機と目的

• 相対的滑らかさと強い凸性の文脈において、Bregman確率的勾配降下法（BSGD）のタイトな収束保証を提供すること。
• 最適解におけるノイズがゼロである補間設定におけるBSGDの挙動を分析すること。
• 有限和問題における分散低減を備えたSAGAのブレグマン版（BSAGA）の開発と分析。
• Poisson逆問題や分散最適化といった主要な応用分野における分散低減ブレグマン法の実用的有効性を示すこと。
• 参考関数hの高階正則性が、ブレグマン法における収束速度に与える影響を調査すること。

提案手法

• 本稿では、厳密に凸で2回連続的に微分可能である参考関数hによって定義されるブレグマン散逸を用いて、標準的勾配降下法を一般化する。
• 最適解におけるノイズの大きさに依存する近傍にBSGDが収束することを確立し、補間設定下では正確な収束を達成することを示す。
• 有限和問題に対して、勾配推定値を保持・更新することで分散を低減する、SAGAのブレグマン版であるBSAGAを導入する。
• 理論的解析により、参考関数hに追加の正則性仮定（二次的またはLipschitz連続なヘッセ行列）がある場合、正確な最小化点への高速収束が可能であることを示す。
• 双対変数更新：∇h(x_{t+1}) = ∇h(x_t) - η_t g_t を用いたミラー降下更新を活用する。
• 勾配ノイズG_tが大きい一時的状態（トランスジェント状態）を分析し、理論的境界が保守的であっても、実際の性能は依然として高いことを示す。

実験結果

リサーチクエスチョン

• RQ1 BSGDが近傍に収束するのではなく、正確な最小化点に収束する条件は何か？
• RQ2 分散低減技術は、有限和問題におけるブレグマン勾配法に効果的に適応可能か？ これにより高速収束が達成可能か？
• RQ3 参考関数hの高階正則性特性が、ブレグマン法における収束速度に与える影響は何か？
• RQ4 分散低減ブレグマン法の実用的性能は、トモグラフィック再構成や分散最適化といった実世界の応用分野でどの程度高いか？
• RQ5 非ユークリッド的設定における収束速度と安定性に、参考関数hの選択がどの程度影響を与えるか？

主な発見

• 最適解におけるノイズがゼロである補間設定下で、BSGDは正確な最小化点に収束する。
• 有限和の場合、BSAGAによる分散低減により、参考関数hに追加の正則性仮定がある限り、正確な最小化点への高速収束が可能である。
• トモグラフィック再構成において、BSAGAはPoissonノイズを伴う最先端のMUアルゴリズムと同等の性能を達成する。
• 分散最適化においては、BSAGAはBGDおよびBSGDを上回り、特にBSGDが分散のため飽和する初期段階以降に顕著な優位性を示す。
• 理論的保守性にもかかわらず、定数ステップサイズが実際の収束に十分であることが示され、勾配ノイズG_tが理論的予測ほど進行を著しく妨げないことが示唆される。
• 高次のG_tを示すトランスジェント状態であっても、テストされた応用分野では性能に顕著な悪影響がなく、実世界設定におけるロバスト性を示している。