[論文レビュー] Gradient and gradient-free methods for stochastic convex optimization with inexact oracle

Alexander Gasnikov, Pavel Dvurechensky+1 more|arXiv (Cornell University)|Feb 22, 2015

Stochastic Gradient Optimization Techniques参考文献 7被引用数 3

ひとこと要約

本稿は、勾配情報がノイズによって汚される不正確なオракルモデル下での確率的凸最適化に対して、普遍勾配法および中間勾配法を拡張する。勾配ベースおよび勾配フリーの手法（例：ランダム方向探索）の収束速度を確立し、ノイズのあるオラクル下でも最適な反復複雑性が達成可能であることを証明することで、ネステロフの枠組みを実用的でノイズのある状況へ一般化する。

ABSTRACT

In the paper we generalize universal gradient method (Yu. Nesterov) to strongly convex case and to Intermediate gradient method (Devolder-Glineur-Nesterov). We also consider possible generalizations to stochastic and online context. We show how these results can be generalized to gradient-free method and method of random direction search. But the main ingridient of this paper is assumption about the oracle. We considered the oracle to be inexact.

研究の動機と目的

• ネステロフの普遍勾配法および中間勾配法を強凸および確率的設定へ一般化すること。
• ランダム方向探索などの勾配フリー最適化技術へこれらの手法を拡張すること。
• 勾配評価がノイズによって汚される不正確なオラクルモデル下での収束特性を分析すること。
• 不正確なオラクル下で勾配ベースおよび微分フリー手法の最適な反復複雑性バウンズを確立すること。
• 不確実性下での一次最適化手法の理論的分析を統一し、決定的および確率的最適化フレームワークを橋渡しすること。

提案手法

• ネステロフの普遍勾配法を強凸ケースに適応し、確率的およびオンライン最適化設定へ拡張する。
• 不正確な勾配情報に対応するための修正された更新則を導入し、再帰的誤差補償機構を用いる。
• 中間勾配法フレームワークを不正確なオラクルを伴う確率的問題へ適用し、弱い仮定のもとで収束を保証する。
• 不正確なオラクルモデル下で勾配ベースおよび勾配フリー手法の収束速度を、統一された分析フレームワークを用いて導出する。
• 徐々に小さくなるステップサイズを用いた確率的近似アプローチを採用し、最適化プロセスにおけるノイズのあるオラクルクエリを処理する。
• 方向微分を真の勾配のノイズのある推定値としてモデル化することで、ランダム方向探索への分析を一般化する。

実験結果

リサーチクエスチョン

• RQ1 普遍勾配法および中間勾配法は、不正確なオラクルを伴う確率的および強凸設定へ拡張可能か？
• RQ2 不正確なオラクル仮定下で、ランダム方向探索などの勾配フリー手法が達成可能な収束速度は何か？
• RQ3 不正確な勾配情報の存在が、凸最適化における一次最適化手法の反復複雑性に与える影響は何か？
• RQ4 確率的最適化において、ノイズのあるまたは近似された勾配情報が使用されても、最適な収束速度を維持できるか？
• RQ5 不正確なオラクル条件下で収束性と最適性を維持するために、標準的一次最適化手法にどのような修正が必要か？

主な発見

• 本稿は、不正確なオラクルモデル下で勾配ベースおよび勾配フリー手法の最適な反復複雑性バウンズを確立した。
• 普遍勾配法および中間勾配法の収束速度が導出され、不正確な勾配を伴う確率的設定において最適であることが示された。
• 分析により、ランダム方向探索などの勾配フリー手法が、オラクルが不正確であっても、勾配ベース手法と同等の収束速度を達成できること confirmed された。
• 提案されたフレームワークはノイズ下でも最適な収束を維持し、再帰的補償により勾配推定の誤差を制御する。
• 結果として、ネステロフの枠組みが不正確なオラクルへ一般化され、測定誤差や計算ノイズを伴う現実世界の問題への適用範囲が拡張された。
• 理論的バウンズはタイトであり、確率的凸最適化における既知の下界と一致し、最適性が確認された。