[論文レビュー] A Stochastic Primal-Dual Method for Optimization with Conditional Value at Risk Constraints

Avinash N. Madavan, Subhonmesh Bose|arXiv (Cornell University)|Aug 2, 2019

Risk and Portfolio Optimization参考文献 43被引用数 3

ひとこと要約

本稿は、条件付きリスク価値（CVaR）をリスク指標として用いるリスク制約付き最適化のための確率的原双対勾配法を提案する。アルゴリズムはi.i.d.標本をオンラインで処理し、定数ステップサイズを用いてK反復でη/√K-近似の妥当性と最適性を達成する。また、標準的な原双対スキームに簡単な修正を加えることで、双対変数の事前境界を必要としない。

ABSTRACT

We study a first-order primal-dual subgradient method to optimize risk-constrained risk-penalized optimization problems, where risk is modeled via the popular conditional value at risk (CVaR) measure. The algorithm processes independent and identically distributed samples from the underlying uncertainty in an online fashion, and produces an $\eta/\sqrt{K}$-approximately feasible and $\eta/\sqrt{K}$-approximately optimal point within $K$ iterations with constant step-size, where $\eta$ increases with tunable risk-parameters of CVaR. We find optimized step sizes using our bounds and precisely characterize the computational cost of risk aversion as revealed by the growth in $\eta$. Our proposed algorithm makes a simple modification to a typical primal-dual stochastic subgradient algorithm. With this mild change, our analysis surprisingly obviates the need for a priori bounds or complex adaptive bounding schemes for dual variables assumed in many prior works. We also draw interesting parallels in sample complexity with that for chance-constrained programs derived in the literature with a very different solution architecture.

研究の動機と目的

• 潜在的な分布が未知または扱いにくい場合に、CVaR制約付きのリスクセンシティブ最適化問題を解く際の計算課題に対処すること。
• 大規模またはストリーミングデータ環境に適した、逐次的に標本を処理するオンライン形式の一次の確率的アルゴリズムを開発すること。
• CVaRに基づくリスク指標を用いた場合の、有限標本におけるサブ最適性および制約違反の収束保証を提供すること。
• 先行研究で一般的に求められる双対変数の事前境界や複雑な適応的境界化スキームの必要性を排除すること。
• リスク回避の計算コストを、収束境界におけるパrameter ηの増加として特徴付けること。

提案手法

• 標準的な原双対確率的勾配法を変更し、双対更新則をCVaR制約に対応させる。これにより、双対変数の事前境界の知識が不要となる。
• CVaRの変分的特徴付けを用いる：CVaRδ[yω] = min_u {u + 1/(1−δ) E[(yω − u)+]}。これにより、標本による勾配計算が可能になる。
• 原双対更新に定数ステップサイズを適用し、確率的かつオンライン設定に特化した収束解析を実施する。
• 収束安定性の向上と分散低減のため、原反復のエルゴディック平均（x̄K = 1/K ∑_{j=1}^K xj）を用いる。
• 有限標本上の経験的平均を用いた数値的CVaR推定により、明示的な分布知識なしに実装可能となる。
• サブ最適性および不条理性の理論的上界を用いてステップサイズと反復回数を最適化し、K*およびγ*の明示的表現を導出する。

実験結果

リサーチクエスチョン

• RQ1 双対変数の事前境界を必要とせずに、CVaR制約付き最適化における有限標本収束保証を達成できる確率的原双対法は存在するか？
• RQ2 CVaRにおけるリスク回避パrameter αとβの増加に伴い、リスク回避の計算コストはどのようにスケーリングするか？
• RQ3 確率的設定下でε-近似最適性および妥当性を達成するための標本および反復複雑度は何か？
• RQ4 提案手法は、標準的なヤコビ型双対更新と比較して、収束性および標本効率の面でどのように異なるか？
• RQ5 理論的収束レートの境界が、数値実験における実際の性能をどれほど反映しているか？

主な発見

• K反復後に期待値としてη/√K-近似の最適性および妥当性が達成される。ここでηはリスク回避パrameter αおよびβに応じて増加する。
• 提案手法により、先行研究で一般的な複雑な双対変数境界化スキームの必要性が排除され、大幅な簡素化が達成された。
• α = 0.3およびβ = 0.2の簡単な例では、最適化された反復回数K*が非常に高かった（1000以上）。しかし、理論的境界が示す予測よりも早くε = 5×10⁻³の許容誤差が達成された。
• 数値結果から、原反復のエルゴディック平均が滑らかに収束し、複数の標本経路にわたりサブ最適性および不条理性のε境界を尊重することが示された。
• 更新された原反復を使用するガウス＝ザイデル型双対更新と、古い原反復を使用するヤコビ型更新では、収束行動がほとんど同一であったが、後者は1反復あたりの標本数を半分に削減できた。
• 提案手法の標本複雑度は、異なるアルゴリズム的アーキテクチャを有するが、チャンス制約プログラムと類似した特徴を示した。