[論文レビュー] Escaping the Local Minima via Simulated Annealing: Optimization of Approximately Convex Functions

Alexandre Belloni, Tengyuan Liang+2 more|arXiv (Cornell University)|Jan 28, 2015

Markov Chains and Monte Carlo Methods参考文献 20被引用数 12

ひとこと要約

本稿では、ゼロ次オラクルによるアクセスのみを用いて、近似的に凸関数を最適化するためのシミュレーテッド・アニーリングに基づく手法を提案する。Hit-and-Runサンプリングを活用することで、局所的最小値から脱出可能である。確率的ゼロ次凸最適化において、$Ó^*(n^{7.5}ε^{-2})$ のオラクル複雑度を達成しており、先行研究を改善しつつも、非凸性および不連続性に対してもロバストである。

ABSTRACT

We consider the problem of optimizing an approximately convex function over a bounded convex set in $\mathbb{R}^n$ using only function evaluations. The problem is reduced to sampling from an \emph{approximately} log-concave distribution using the Hit-and-Run method, which is shown to have the same $\mathcal{O}^*$ complexity as sampling from log-concave distributions. In addition to extend the analysis for log-concave distributions to approximate log-concave distributions, the implementation of the 1-dimensional sampler of the Hit-and-Run walk requires new methods and analysis. The algorithm then is based on simulated annealing which does not relies on first order conditions which makes it essentially immune to local minima. We then apply the method to different motivating problems. In the context of zeroth order stochastic convex optimization, the proposed method produces an $ε$-minimizer after $\mathcal{O}^*(n^{7.5}ε^{-2})$ noisy function evaluations by inducing a $\mathcal{O}(ε/n)$-approximately log concave distribution. We also consider in detail the case when the "amount of non-convexity" decays towards the optimum of the function. Other applications of the method discussed in this work include private computation of empirical risk minimizers, two-stage stochastic programming, and approximate dynamic programming for online learning.

研究の動機と目的

• 勾配情報に依存せずに、近似的に凸関数における局所的最小値から脱出可能なゼロ次最適化手法の開発。
• Hit-and-Runサンプリング枠組みを近似的に対数凸分布へ拡張し、非理想な凸性下でも効率的なサンプリングと最適化を可能にする。
• 確率的ゼロ次最適化において、精度（$\epsilon^{-2}$）および次元（$n^{7.5}$）への最適依存関係を達成し、先行研究の境界を改善する。
• ノイズありまたは近似的な関数評価下での最適化に対する理論的保証を提供し、プライベート計算およびオンライン学習に関連する応用を想定する。
• 切断された近似的に対数凸分布に対して高速な混合を示す1次元サンプラーの設計を、Hit-and-Runウォークの実装に活かす。

提案手法

• 近似的に凸関数の最適化を、近的に対数凸分布からのサンプリングに還元し、Hit-and-Runマルコフ連鎖を用いる。
• 切断された近的に対数凸分布への高速混合を実現する新規な1次元サンプリング方式を導入し、Hit-and-Runウォークの効率的実装を可能にする。
• 温度スケジュールを段階的に低下させるシミュレーテッド・アニーリングを採用し、非凸性が存在しても最小値に収束可能である。
• 凸集合 $\mathcal{K}$ のメンバーシップオラクルと関数 $F$ の評価値のみを用い、勾配や部分勾配の要件なしに処理を実行する。
• 合計変動距離の誤差制御を保証するため、$\mathcal{O}^*(\sqrt{n})$ のアンケージング段階を経て、各段階で $\mathcal{O}^*(n^3)$ 個のサンプルを必要とする。
• 経験的分布と目的のギブス分布との間の全変動距離に対する理論的境界を確立し、$\epsilon$-最小値への収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 関数評価のみが利用可能な状況で、シミュレーテッド・アニーリングが近似的に凸関数を効果的に最適化できるか？
• RQ2 近似的な関数評価下におけるゼロ次確率的凸最適化の情報理論的複雑度は何か？
• RQ3 Hit-and-Runサンプリングを近的に対数凸分布へ拡張しても、混合時間の保証を維持できるか？
• RQ4 ゼロ次最適化において、次元および精度依存性を既存の境界以下に低下できるか？
• RQ5 最適解付近で非凸性が弱まる場合、勾配フリー最適化アルゴリズムの性能にどのような影響を与えるか？

主な発見

• 提案手法は、確率的ゼロ次凸最適化において $\mathcal{O}^*(n^{7.5}\epsilon^{-2})$ のオラクル複雑度を達成しており、$\epsilon$ への最良-known 依存関係を満たす。
• 勾配情報や一次条件に依存せず、関数評価のみを用いて期待値として $\epsilon$-最小値を生成する。
• 近的に対数凸分布に対する Hit-and-Run サンプラーは、正確に対数凸分布の場合と同一の $\mathcal{O}^*$ 複雑度を有し、先行研究を拡張する。
• 1次元サンプリングサブルーチンは、切断された近的に対数凸分布へ高速に混合し、全アルゴリズムの効率的実装を可能にする。
• 不連続性および非凸性に対してもロバストであり、関数が $\mathcal{O}(\epsilon/n)$-近似的に凸である場合でも、誤差が $\mathcal{O}^*(n^{7.5}\epsilon^{-2})$ に抑えられる。
• 最終的な分布は、$e\gamma$-近傍に目標のギブス分布があるが、$\gamma$ は複雑度に対数的にしか影響せず、オラクル数に与える影響は最小限である。