[論文レビュー] On Zeroth-Order Stochastic Convex Optimization via Random Walks

Tengyuan Liang, Hariharan Narayanan+1 more|arXiv (Cornell University)|Feb 11, 2014

Stochastic Gradient Optimization Techniques参考文献 8被引用数 24

ひとこと要約

本稿では、凸関数のepigraph上でのランダムウォークを用いた零番目の確率的凸最適化手法を提案し、T回のクエリ後に$")

ABSTRACT

We propose a method for zeroth order stochastic convex optimization that attains the suboptimality rate of $ ilde{\mathcal{O}}(n^{7}T^{-1/2})$ after $T$ queries for a convex bounded function $f:{\mathbb R}^n o{\mathbb R}$. The method is based on a random walk (the \emph{Ball Walk}) on the epigraph of the function. The randomized approach circumvents the problem of gradient estimation, and appears to be less sensitive to noisy function evaluations compared to noiseless zeroth order methods.

研究の動機と目的

• 零番目の確率的凸最適化における理論的ギャップを埋め、次元および精度に近似的に最適な依存関係を達成すること。
• 勾配推定に依存しない、ノイズの多い関数評価に対してロバストな手法を開発すること。
• 制限されたオラクルアクセス下での凸関数のepigraph上におけるランダムウォークベースのサンプリングの複雑さを分析すること。
• 従来の$n^7$依存性を持つ境界よりも改善された確率的設定下でのサブ最適性レートを確立すること。

提案手法

• 関数のepigraphを、既知の上界$C_t$で切り取った凸体として構築する。
• ボールウォークによるランダムウォークを用いてepigraphからの近似一様サンプルを生成し、重心の近似を可能にする。
• 点がepigraph内にあるかどうかを特定するための適応的関数クエリを用い、繰り返しのノイズのある評価により信頼区間を構築する。
• 体を等方的配置に写像するアフィン変換$")
• research_questions

実験結果

リサーチクエスチョン

• RQ1 勾配推定に基づく手法よりも、ランダムウォークに基づく確率的手法が、零番目の確率的凸最適化においてより優れた理論的複雑度を達成できるか。
• RQ2 ノイズのある関数評価下で、次元$n$と精度$\epsilon$に対してオラクル複雑度はどのようにスケーリングするか。
• RQ3 勾配が利用できない状況下で、関数値の信頼区間を用いた適応的サンプリングが、epigraph内へのメンバーシップテストをどのようにロバストに可能にするか。
• RQ4 ノイズの存在下で、クエリ複雑度と境界近接性のトレードオフは何か。
• RQ5 ランダム化は、零番目の最適化におけるノイズへのロバストネスをどの程度向上できるか。

主な発見

• 提案手法は、T回のクエリ後に$\tilde{\mathcal{O}}(n^7 T^{-1/2})$のサブ最適性レートを達成し、確率的設定下での理論的改善が顕著である。
• 精度$\epsilon$を達成するためのオラクル複雑度は、$\tilde{\mathcal{O}}(n^{14} \epsilon^{-2})$で有界であり、従来の$n^{33}$依存性を持つ境界よりも改善されている。
• 1回のクエリあたりの誤差確率は$o(1/n^5)$で抑えられ、$\tilde{\mathcal{O}}(n^5)$イテレーションの間、総誤差は$o(1)$のままである。
• 1点あたりの期待オラクルクエリ数は、$\tilde{\mathcal{O}}(n^9 / \epsilon^2)$であり、適応的サンプリングの複雑度と体積削減から導出される。
• 本手法は自然に並列化可能であり、マシン1台あたりのクエリコストを$n$分の1に削減できる。
• 解析により、確率的設定下で次元に依存する$n^7$の依存性が達成可能であり、既知の下界$\Omega(n^2 \epsilon^{-2})$に近づいた。