[論文レビュー] Primal-dual mirror descent for the stochastic programming problems with functional constraints

Anastasia Bayandina, Alexander Gasnikov+2 more|arXiv (Cornell University)|Apr 27, 2016

Stochastic Gradient Optimization Techniques参考文献 6被引用数 8

ひとこと要約

本稿は、関数的制約を伴う凸の確率的プログラミングのための原双対確率的ミラー降下アルゴリズムを導入する。大偏差確率の観点から収束速度を確立し、制約された関数的形態における不確実性下での最適化に対する理論的保証を提供する。

ABSTRACT

We propose primal-dual stochastic mirror descent for the convex optimization problems with functional constraints. We obtain the rate of convergence in terms of probability of large deviations.

研究の動機と目的

• 標準の確率的部分勾配法では容易に取り扱えない関数的制約を含む凸の確率的プログラミング問題に対処すること。
• 原変数と双対変数の両方の更新をミラー降下を用いて統合する一階層アルゴリズムを構築し、制約付き設定における収束を向上させること。
• 最適性ギャップの観点から、非漸近的収束速度を大偏差確率の観点で導出すること。
• 境界制約や等式制約に限らない一般の関数的制約を伴う確率的問題へ、ミラー降下フレームワークを拡張すること。
• 確率的でノイズのある関数的制約下での収束挙動に対する理論的分析を提供すること。

提案手法

• 双対変数は制約違反に基づいて更新される原・双対更新をミラー降下を用いて統合する。
• 勾配と制約違反の推定には確率的オракルを用い、ランダムサンプルを用いる。
• 原変数および双対変数の両方の更新に、Bregman散発に基づく近接更新を採用し、問題の幾何構造に適応する。
• ステップサイズは原と双対の進捗をバランスさせ、反復回数にわたる双対ギャップの最小化を目的とする。
• 収束解析には、原双対ギャップとBregman散発項を含むリャプノフ関数を用いる。
• 集中不等式を用いて、最適性ギャップにおける大偏差の確率を制御する理論的バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 ミラー降下は、一般の関数的制約を伴う確率的凸最適化にどのように拡張できるか？
• RQ2 原双対ギャップの観点から、大偏差確率の観点で達成可能な収束速度は何か？
• RQ3 原と双対の更新は、確率的制約サンプリング下でどのように相互作用し、収束を保証するか？
• RQ4 制約がノイズを含むサンプルベースの推定値でのみ利用可能な場合、アルゴリズムは収束を維持できるか？
• RQ5 最適性ギャップの期待値を最小化するための、原と双対のステップサイズの最適なバランスは何か？

主な発見

• 提案されたアルゴリズムは、T反復における期待最適性ギャップの観点から、収束速度O(1/√T)を達成する。
• 適切なステップサイズ選択のもとで、最適性ギャップにおける大偏差の確率は、O(1/T)の速度で減少する項によって上界で抑えられる。
• 制約が確率的サンプルでのみアクセス可能であっても、最適解への収束が高確率で保証される。
• ミラー降下更新におけるBregman散発の使用により、問題の幾何構造に適応し、収束の安定性が向上する。
• 理論的分析により、双対ギャップが時間とともに減少することが確認され、最適性からの逸脱に対する明示的なバウンドが得られる。
• 本アルゴリズムは、非滑らかまたは非凸な成分を含む制約集合を有する、広範なクラスの確率的プログラミング問題に適用可能である。