[論文レビュー] Gradient-free two-points optimal method for non smooth stochastic convex optimization problem with additional small noise

Anastasia Bayandina, Alexander Gasnikov+2 more|arXiv (Cornell University)|Jan 13, 2017

Stochastic Gradient Optimization Techniques参考文献 7被引用数 7

ひとこと要約

本稿では、追加の微小ノイズを伴う非滑らか確率的凸最適化のための勾配フリーで二点型の確率的ミラー降下法を提案する。二重スムージングと不正確オラクル技術を活用することで、勾配情報が利用不可でノイズが存在する状況においても、乗法的定数の範囲内で最適収束レートを達成する。これは、最適手法の適用範囲をノイズあり・微分情報なしの設定へと拡張するものである。

ABSTRACT

Using double-smoothing technique and stochastic mirror descent with inexact oracle we built an optimal algorithm (up to a multiplicative factor) for two-points gradient-free non-smooth stochastic convex programming. We investigate how much can be the level of noise (the nature of this noise isn't necessary stochastic) for the rate of convergence to be maintained (up to a multiplicative factor).

研究の動機と目的

• 勾配情報が利用不可な状況下での非滑らか確率的凸最適化に対して、最適な勾配フリーのアルゴリズムを開発すること。
• 勾配情報が欠如する状況において、追加の微小ノイズが収束レートに与える影響を分析すること。
• 関数値クエリのみが利用可能な設定へと最適手法の適用範囲を拡張すること。
• ノイズと勾配アクセスの欠如の下でも、収束レートを乗法的定数の範囲内に維持すること。

提案手法

• 本手法は、非滑らか目的関数を正則化するために二重スムージングを用い、これにより確率的ミラー降下の適用を可能にする。
• 二点型の確率的オラクルを用い、二つの摂動された点での関数値をクエリすることで、劣勾配を推定する。
• 追加の微小ノイズを扱うために不正確オラクルモデルを統合する。
• ノイズあり・勾配なしの条件下での収束を保証するために、ミラー降下と分散低減技術を組み合わせる。
• 理論的分析は、凸解析と確率的最適化フレームワークに依拠し、期待される劣最適性ギャップをバウンディングする。
• 本手法は、指定されたノイズとオラクル制約下でも、最適収束レート（乗法的定数の範囲内）を維持することを設計している。

実験結果

リサーチクエスチョン

• RQ1 勾配フリーの非滑らか確率的凸最適化において、最適収束レートを維持しつつ許容可能なノイズの最大レベル（確率的である必要はない）は何か？
• RQ2 勾配情報へのアクセスが制限される非滑らか確率的最適化問題に対して、最適なアルゴリズムを構築可能か？
• RQ3 二重スムージングと不正確オラクルの相互作用は、ノイズ下でも収束性を維持するためにどのように機能するか？
• RQ4 微小な摂動が存在する状況において、二点クエリ機構は最適性をどの程度保つことができるか？
• RQ5 関数値のみが利用可能でノイズが存在する状況でも、収束レートを定数倍の範囲内に維持可能か？

主な発見

• 提案されたアルゴリズムは、勾配アクセスなしの非滑らか確率的凸最適化において、最適収束レート（乗法的定数の範囲内）を達成する。
• 本手法は、その性質が如何なるものであっても有界である限り、任意の微小ノイズ下でも収束を維持する。
• 二重スムージングにより、非滑らか問題がミラー降下に適した滑らか近似に変換可能である。
• 二点クエリ機構は、最小限の関数評価で劣勾配を効果的に近似でき、実用性を確保する。
• 不正確オラクルモデルにより、関数評価におけるノイズに対してロバスト性を確保しつつ、収束レートの劣化を防げる。
• 理論的分析により、ノイズあり・勾配なしの条件下でも、アルゴリズムの収束レートが定数倍の範囲内で最適であることが確認された。