[論文レビュー] Robust Sample Average Approximation

Dimitris Bertsimas, Vishal Gupta+1 more|arXiv (Cornell University)|Aug 19, 2014

Risk and Portfolio Optimization参考文献 47被引用数 11

ひとこと要約

本稿では、仮説検定を用いて有限標本性能保証を確保する、標本平均近似（SAA）と分布ロバスト最適化を組み合わせたデータ駆動型最適化手法、ロバストSAAを提案する。標準SAAとは異なり、ロバストSAAは強力な有限標本バインディングと安定した解を提供しながら、漸近的収束性と取り扱いやすさを維持し、在庫管理およびポートフォリオ配分の実験において、既存手法を上回る性能を示す。

ABSTRACT

Sample average approximation (SAA) is a widely popular approach to data-driven decision-making under uncertainty. Under mild assumptions, SAA is both tractable and enjoys strong asymptotic performance guarantees. Similar guarantees, however, do not typically hold in finite samples. In this paper, we propose a modification of SAA, which we term Robust SAA, which retains SAA's tractability and asymptotic properties and, additionally, enjoys strong finite-sample performance guarantees. The key to our method is linking SAA, distributionally robust optimization, and hypothesis testing of goodness-of-fit. Beyond Robust SAA, this connection provides a unified perspective enabling us to characterize the finite sample and asymptotic guarantees of various other data-driven procedures that are based upon distributionally robust optimization. This analysis provides insight into the practical performance of these various methods in real applications. We present examples from inventory management and portfolio allocation, and demonstrate numerically that our approach outperforms other data-driven approaches in these applications.

研究の動機と目的

• データ駆動意思決定における不確実性下での標準的SAAに、有限標本性能保証が欠如している問題に対処すること。
• 特に病的または高次元の設定下で、小規模または中規模の標本サイズにおけるSAA解の不安定性を克服すること。
• SAAの漸近的収束性と取り扱いやすさを維持しながら、強力な有限標本性能保証を追加する手法を開発すること。
• SAA、分布ロバスト最適化、および統計的適合度検定の間の関連性を活用し、データ駆動型最適化手法の分析を統一すること。
• 実験的に、ロバストSAAがSAA、2-SAA、および他のDROベース手法よりも、出先性能および解の安定性において優れていることを示すこと。

提案手法

• SAAの修正版としてロバストSAAを提案し、経験分布の代わりにデータ駆動型不確実性集合上の分布ロバスト最適化（DRO）問題を採用する。
• 適合度検定を用いて分布不確実性集合（DUS）を構築し、真の分布Fが高確率（1−α）で集合内に含まれることを保証する。
• Kolmogorov-Smirnov検定、Cramér-von Mises検定などの統計的検定を用いてDUSを定義し、真の分布をカバーする確率が少なくとも1−α以上になるようにする。
• 凸錐プログラミングを用いて得られるDRO問題を効率的に解き、多くの一般的なコスト関数において取り扱いやすさを維持する。
• 手法の性能を、裏付けとなる適合度検定の有意水準および一貫性と関連付け、有限標本および漸近的挙動の理論的分析を可能にする。
• ブートストラップと再標本抽出を用いて、有限標本におけるDROバインディングの実用的性能およびキャリブレーションを向上させる。

実験結果

リサーチクエスチョン

• RQ1 SAAの漸近的収束性と取り扱いやすさを維持しながら、強力な有限標本性能保証を提供するデータ駆動型最適化手法を設計できるか？
• RQ2 データ駆動型DRO定式化の性能を、適合度検定の統計的性質と体系的に結びつける方法は何か？
• RQ3 異なる統計的検定および不確実性集合の構築法が、得られる最適化解のロバスト性と安定性に与える影響は何か？
• RQ4 ロバストSAAは、SAA、2-SAA、および他のDRO手法と比較して、出先性能および解の分散の観点でどのように異なるか？
• RQ5 仮説検定フレームワークを用いることで、実務におけるDROベース意思決定ルールのキャリブレーションと信頼性を向上させられるか？

主な発見

• ロバストSAAは、確率が少なくとも1−α以上である限り、有限標本性能保証を達成し、真の出先コストが高信頼性でバインドされることを保証する。
• 在庫管理およびポートフォリオ配分の両問題において、全標本サイズでSAAおよび2-SAAを出先部分最適性の観点で上回る。
• ロバストSAAの解は、他の手法と比較して顕著に分散が小さく、ポートフォリオ配分における取引コストリスクの低減という観点で、より高い安定性を示す。
• LCX検定に基づくDROバインディングは、全標本サイズで1に近い確率で有効性を維持し、Delage & Ye (2010)の手法を信頼性の観点で上回る。
• 標本サイズの増加に伴う最適性ギャップの減少（データの価格）は、再標本抽出に基づく手法でよく近似され、ブートストラップを用いた性能推定の有効性を裏付ける。
• 数値実験では、ロバストSAAが完全情報最適解に収束し、変動が低く抑えられることを示し、SAAとDROの長所を統合しつつ、それぞれの主要な欠点を回避している。