[論文レビュー] Validating Sample Average Approximation Solutions with Negatively Dependent Batches

Jiajie Chen, Cong Han Lim+3 more|arXiv (Cornell University)|Apr 29, 2014

Risk and Portfolio Optimization参考文献 33被引用数 6

ひとこと要約

本稿では、確率的プログラミングにおけるサンプル平均近似（SAA）問題において、バッチ間の負の依存性を誘導するスライスド・ラテンハイパーキューブ（SLH）およびスライスド直交配列ラテンハイパーキューブ（SOLH）サンプリング手法を提案する。これにより、下界推定値の分散が著しく低減され、最適化目的関数値の推定における信頼区間の品質が向上する。主な貢献は、ラテンハイパーキューブサンプリングと比較して最大10倍の分散低減が達成されることで、特にボーズ＝ブッシュ設計などの直交配列を用いることで、最適性ギャップ推定の質が向上する点にある。

ABSTRACT

Sample-average approximations (SAA) are a practical means of finding approximate solutions of stochastic programming problems involving an extremely large (or infinite) number of scenarios. SAA can also be used to find estimates of a lower bound on the optimal objective value of the true problem which, when coupled with an upper bound, provides confidence intervals for the true optimal objective value and valuable information about the quality of the approximate solutions. Specifically, the lower bound can be estimated by solving multiple SAA problems (each obtained using a particular sampling method) and averaging the obtained objective values. State-of-the-art methods for lower-bound estimation generate batches of scenarios for the SAA problems independently. In this paper, we describe sampling methods that produce negatively dependent batches, thus reducing the variance of the sample-averaged lower bound estimator and increasing its usefulness in defining a confidence interval for the optimal objective value. We provide conditions under which the new sampling methods can reduce the variance of the lower bound estimator, and present computational results to verify that our scheme can reduce the variance significantly, by comparison with the traditional Latin hypercube approach.

研究の動機と目的

• サンプル平均近似（SAA）における下界推定の質を向上させることを目的とし、推定値の分散を低減すること。
• 既存のSAA手法がバッチを独立して扱うため、下界推定値の分散が高くなるという制限を是正すること。
• ラテンハイパーキューブサンプリングと同様に各バッチ内での層別化を維持しつつ、バッチ間の負の依存性を誘導するサンプリング方式の開発。
• これらの新規手法の性能を、理論的および実験的に評価すること。特に、標準的なラテンハイパーキューブおよびモンテカルロサンプリングと比較する。
• 負の依存性を持つバッチ設計の概念を、U-サンプリングやランダム化準モンテカルロ法などの高度なサンプリング技法へ応用可能かどうかの検討。

提案手法

• バッチ内およびバッチ間の両方の層別化を実現し、バッチ間の負の依存性を誘導しつつ、柔軟なバッチ数を許容するスライスド・ラテンハイパーキューブ（SLH）サンプリングを提案する。
• 直交配列を用いてバッチ間のより強い負の依存性を生成するスライスド直交配列ラテンハイパーキューブ（SOLH）サンプリングを導入し、配列構造の完全な直交性を活用する。
• ベンチマーク問題に対して、2段階の確率的線形計画法フレームワークを用いてSLHおよびSOLHの性能を評価し、下界推定値の標準誤差および分散を比較する。
• ボーズ＝ブッシュ直交配列をSOLHの基本設計として用い、その強度3の直交性を活かして分散低減を最大化する。
• 同じサンプリング戦略を、並列に解かれる複数のSAAサブ問題に適用し、各バッチは提案された負の依存構造に従って抽出する。
• 新規手法を標準的なモンテカルロおよびラテンハイパーキューブサンプリングと比較し、テスト問題における標準誤差および収束速度を指標に性能を測定する。

実験結果

リサーチクエスチョン

• RQ1 SAA問題においてバッチ間に負の依存性を導入することで、独立なサンプリングと比較して下界推定値の分散を低減できるか？
• RQ2 SLHサンプリングは、独立ラテンハイパーキューブ（ILH）サンプリングと比較して、分散低減およびバイアスの観点でどの程度優れているか？
• RQ3 特にボーズ＝ブッシュ設計を用いた直交配列の使用が、SAAの下界推定におけるバッチサンプリングの分散低減にどの程度寄与するか？
• RQ4 配列の完全な直交性を活用する場合、バッチ数が増加しても本手法の性能が維持または向上するか？
• RQ5 負の依存性を持つバッチの概念は、U-サンプリングやランダム化準モンテカルロ法などの他の高度なサンプリング手法へ応用可能か？

主な発見

• ボーズ＝ブッシュ直交配列を用いたスライスド直交配列ラテンハイパーキューブ（SOLH）手法は、LandS問題において、ラテンハイパーキューブサンプリングと比較して下界推定値の標準誤差を最大10倍低減した。
• ssn問題では、独立ラテンハイパーキューブ（ILH）から提案されたバッチベース（BB）手法への改善は、モンテカルロからILHへの改善と同等であり、顕著な分散低減が確認された。
• 完全な直交配列の使用がSOLH手法の性能を向上させ、部分的な配列使用と比較して優れていることから、配列の完全な直交性を活用することが最大の分散低減を実現する上で不可欠であることが示された。
• ランダム変数が少ない問題（例：3変数のLandS）では、バッチレベルでの2次元的層別化と負の依存性が、顕著な性能向上をもたらした。
• SLH手法はILHと同等か、一部の問題では著しく優れており、特に単調性の性質を持つ問題では顕著な改善が見られた。また、有限サポートおよび収束条件の下では、漸近的にILHと同等となる。
• 計算リソースが限られる状況では、1バッチあたりのシナリオ数を減らしてバッチ数を増やすSOLHを用いることで、1バッチあたりのシナリオ数を多くするILHよりも標準誤差を小さくできる。これは、負の依存構造のおかげである。