[論文レビュー] A Stochastic Trust Region Method for Non-convex Minimization

Zebang Shen, Pan Zhou+2 more|arXiv (Cornell University)|Mar 4, 2019

Stochastic Gradient Optimization Techniques参考文献 18被引用数 8

ひとこと要約

本稿では、非凸有限和最小化問題に対して、標本効率の良い確率的信頼領域（STR）アルゴリズムを提案する。新規のヘシアン推定器と不正確な勾配／ヘシアン近似を活用することで、$Ø(√n/ϵ^{1.5})$ の確率的ヘシアンオラクル複雑度を達成し、先行研究より $Ø(n^{1/6})$ の改善を実現する。この手法は $Ø(1/k^{2/3})$ の収束速度を達成し、計算コストを抑えて $(ϵ,\sqrt{\u03f5})$-近似第二階停留点を特定する。

ABSTRACT

We target the problem of finding a local minimum in non-convex finite-sum minimization. Towards this goal, we first prove that the trust region method with inexact gradient and Hessian estimation can achieve a convergence rate of order $\mathcal{O}(1/{k^{2/3}})$ as long as those differential estimations are sufficiently accurate. Combining such result with a novel Hessian estimator, we propose the sample-efficient stochastic trust region (STR) algorithm which finds an $(ε, \sqrtε)$-approximate local minimum within $\mathcal{O}({\sqrt{n}}/{ε^{1.5}})$ stochastic Hessian oracle queries. This improves state-of-the-art result by $\mathcal{O}(n^{1/6})$. Experiments verify theoretical conclusions and the efficiency of STR.

研究の動機と目的

• 非凸有限和最小化問題において、$(\epsilon,\sqrt{\epsilon})$-近似第二階停留点を効率的に見つける確率的信頼領域手法の開発。
• 特に大規模設定において、既存の立方体正則化法および信頼領域法と比較して、確率的ヘシアンオラクル複雑度を低減すること。
• 信頼領域フレームワークと不正確な勾配およびヘシアン推定を組み合わせることで、より優れた収束速度を達成すること。
• 低コストの平均的オラクルコストを維持しながら高い精度を保つ新規のヘシアン推定器の設計。
• 実用的な計算的トレードオフを反映する形で、一次および二次のオラクル複雑度のバランスを取ること。

提案手法

• 目的関数を二次のテイラー展開で近似し、局所領域内にステップを制限する信頼領域フレームワークを用いる。
• ヘシアンオラクルクエリを削減しつつ高い精度を維持する新規のヘシアン推定器を導入し、全体の複雑度を低減。
• 不正確な勾配およびヘシアン推定を用い、十分な精度が保証される条件下で収束性を証明し、$Ø(1/k^{2/3})$ のグローバル収束速度を達成。
• 2つの変種を提案：STR1は新規のヘシアン推定器と既存の勾配推定器を組み合わせ、ヘシアンオラクル効率を最優先。STR2は勾配とヘシアン推定を統合し、一次および二次の複雑度のバランスを取る。
• 部分問題は、ヘシアン関連のクリロフ部分空間内でランチョス法を用いて近似的に解く。
• 全勾配およびヘシアン計算を最小限に抑えるために、問題の有限和構造を巧みに活用する。

実験結果

リサーチクエスチョン

• RQ1 非凸有限和問題において、既存の立方体正則化法および信頼領域法と比較して、より優れた確率的ヘシアンオラクル複雑度を達成できるか？
• RQ2 新規のヘシアン推定器は、平均的コストを低減しつつ、収束保証を維持できるか？
• RQ3 一次および二次のオラクル複雑度のバランスを取ることで、実際の収束速度が向上するか？
• RQ4 十分な精度が保証される条件下でも、不正確な勾配およびヘシアン推定が依然として $Ø(1/k^{2/3})$ の収束速度を達成できるか？
• RQ5 SVRC や Lite-SVRC といった最先端手法と比較して、提案された STR アルゴリズムはヘシアンクエリの観点からより標本効率的か？

主な発見

• 提案された STR アルゴリズムは、$Ø(√n/ϵ^{1.5})$ の確率的ヘシアンオラクル複雑度を達成し、既存の最良結果 $Ø(n^{2/3}/ϵ^{1.5})$ よりも $Ø(n^{1/6})$ の要因で改善される。
• STR1 は $Ø(√n/ϵ^{1.5})$ のヘシアンオラクル複雑度を達成し、既存手法より低く、$ϵ$ 依存性において理論的下界に一致する。
• STR2 は、一次および二次のオラクル複雑度の総合的複雑度を $Ø(n^{3/4}/ϵ^{1.5})$ に抑え、既存の最良結果 $Ø(n^{4/5}/ϵ^{1.5})$ よりも改善される。
• 理論的分析により、不正確な勾配およびヘシアン推定を用いた信頼領域法が、推定が十分に正確であれば $Ø(1/k^{2/3})$ の収束速度を達成できることを確認した。
• ロジスティック回帰および非線形最小二乗問題における実験では、TR や ARC、SCR、SVRC、Lite-SVRC と比較して、実行時間およびヘシアンサンプル複雑度の両面で STR がより速く収束することが示された。
• ヘシアンサンプル複雑度の観点から、STR の収束曲線は鋭く、ヘシアンクエリ効率における理論的優位性が裏付けられた。