[論文レビュー] Random Multi-Constraint Projection: Stochastic Gradient Methods for Convex Optimization with Many Constraints

Mengdi Wang, Yichen Chen+2 more|arXiv (Cornell University)|Nov 12, 2015

Stochastic Gradient Optimization Techniques参考文献 23被引用数 21

ひとこと要約

本稿では、多数の制約を伴う凸最適化のための新しい確率的勾配法を提案する。確率的部分勾配ステップとランダムな多制約投影を組み合わせることで、ほぼ確実な収束を示し、収束速度を向上させる。3つの実行可能性更新スキーム（平均化、最も遠い投影、多面体集合への投影）を導入し、既知のアルゴリズムの中で最良の反復回数およびサンプル複雑性を達成する多面体集合スキームの優位性を示す。

ABSTRACT

Consider convex optimization problems subject to a large number of constraints. We focus on stochastic problems in which the objective takes the form of expected values and the feasible set is the intersection of a large number of convex sets. We propose a class of algorithms that perform both stochastic gradient descent and random feasibility updates simultaneously. At every iteration, the algorithms sample a number of projection points onto a randomly selected small subsets of all constraints. Three feasibility update schemes are considered: averaging over random projected points, projecting onto the most distant sample, projecting onto a special polyhedral set constructed based on sample points. We prove the almost sure convergence of these algorithms, and analyze the iterates' feasibility error and optimality error, respectively. We provide new convergence rate benchmarks for stochastic first-order optimization with many constraints. The rate analysis and numerical experiments reveal that the algorithm using the polyhedral-set projection scheme is the most efficient one within known algorithms.

研究の動機と目的

• 多数の凸制約の積集合として定義される複雑な実行可能集合への投影において、確率的勾配法の計算非効率性を解消すること。
• 全積集合への正確な投影を避けるために、各反復で制約をランダムにサンプリングするスケーラブルなアルゴリズムの開発。
• さまざまな実行可能性更新スキームの下での最適性と実行可能性誤差の収束速度の分析。
• 反復回数およびサンプル複雑性の観点から、単一制約サンプリングと比較しての多制約サンプリングの効率性の比較。
• 平均化、最も遠い投影、多面体集合への投影のうち、最も効率的な実行可能性更新スキームの同定。

提案手法

• 各反復で、目的関数の部分勾配のサンプルを用いて確率的部分勾配ステップを実行する。
• 同時に、小さな制約サブセットをサンプリングし、そのサンプルされた制約の積集合上に反復点を投影する。この投影には、3つのスキームのいずれかを用いる：平均化、最も遠い、または多面体集合への投影。
• 多面体集合への投影は、サンプルされた点から特別な多面体集合を構築し、それを基に投影を行うことで、より良い誤差制御を可能にする。
• アルゴリズムは、$ \alpha_k = 1/(k+10) $ の形をとる減少するステップサイズを使用し、ほぼ確実な収束を保証する。
• 実行可能性誤差は、真の実行可能集合 $ \mathcal{X} $ からの二乗距離として測定され、最適性誤差は目的関数の部分最適性として追跡される。
• 理論的分析により、多面体集合スキームの下で実行可能性誤差が $ \mathcal{O}(1/k^2) $ の収束速度を示し、サンプル複雑性も一致することが立証された。

実験結果

リサーチクエスチョン

• RQ1 実行可能集合が多数の制約の積集合として定義される場合、確率的勾配法は収束性と効率性を維持できるか？
• RQ2 収束速度およびサンプル効率性の観点から、多制約サンプリングと単一制約サンプリングの比較は？
• RQ3 平均化、最も遠い投影、多面体集合への投影のうち、どの実行可能性更新スキームが最良の収束速度とサンプル複雑性を達成するか？
• RQ4 提案されたアルゴリズムの実行可能性誤差および最適性誤差の理論的収束速度は何か？
• RQ5 1反復あたり複数の制約をサンプリングすることで、単一制約を使用する場合と比較して性能が著しく向上するか？

主な発見

• 多面体集合への投影スキームが最良の収束速度を達成し、実行可能性誤差が $ \mathcal{O}(1/k^2) $ で減少し、他のスキームを上回る。
• 数値実験により、アルゴリズム3（多面体集合スキーム）がアルゴリズム1および2およびベースラインよりも高速に収束し、制約違反も低く保たれていることが確認された。
• 逆実行可能性誤差は反復回数および総サンプルサイズに対して線形関係にあり、理論的レートの妥当性が裏付けられ、サンプル効率性の比較が可能になった。
• 反復ごとのサンプル制約数（$ M $）を増やすことで、アルゴリズム3ではサンプル効率性が線形以上に向上し、強力なスケーラビリティを示した。
• アルゴリズム1（平均化）は、ベースラインアルゴリズムよりも悪く動作する可能性があり、スキーム設計の重要性を強調している。
• 提案されたアルゴリズムは、定数倍の要因を除いて、反復複雑性を改善できないままに保ちながら、多制約サンプリングによりサンプル複雑性を著しく改善した。