[論文レビュー] Optimization-based Quantification of Simulation Input Uncertainty via Empirical Likelihood

Henry Lam, Huajie Qian|arXiv (Cornell University)|Jul 19, 2017

Simulation Techniques and Applications参考文献 63被引用数 5

ひとこと要約

本稿では、経験的尤度を用いてシミュレーション入力の不確実性を定量化する最適化ベースの手法を提案する。平均化された発散制約を備えた凸最適化問題を解くことで信頼区間を構築する。この手法はブートストラップ法やデルタ法と比較して、よりきめの細かい統計的カバレッジと優れた有限標本性能を達成し、経験的尤度のマルチサンプル一般化によって理論的保証を有する。

ABSTRACT

We study an optimization-based approach to construct statistically accurate confidence intervals for simulation performance measures under nonparametric input uncertainty. This approach computes confidence bounds from simulation runs driven by probability weights defined on the data, which are obtained from solving optimization problems under suitably posited averaged divergence constraints. We illustrate how this approach offers benefits in computational efficiency and finite-sample performance compared to the bootstrap and the delta method. While resembling robust optimization, we explain the procedural design and develop tight statistical guarantees of this approach via a generalization of the empirical likelihood method.

研究の動機と目的

• 入力分布が不確実で非パラメトリックな状況下で、シミュレーション出力の信頼区間を信頼性を持って構築する課題に対処すること。
• ブートストラップ法やデルタ法といった従来の手法が入力不確実性定量化において抱える計算上の非効率性と有限標本の制限を克服すること。
• 非パラメトリックな入力モデル下でも有効なカバレッジ確率を保証する統計的に厳密なフレームワークを開発すること。
• 経験的尤度を用いてあいまいさ集合を定義することで、ロバスト最適化と統計的推論の溝を埋めること。
• ネストドブートストラップ手順の代替として計算的に取り扱いやすく、カバレッジ精度を維持または向上させること。

提案手法

• 観測された入力データに対する最悪ケースの確率重みを計算する2つの凸最適化問題を定式化し、発散制約の下で性能指標を最小化および最大化する。
• 平均化された統計的発散（例：カルバック・ライブラー）を制約として用い、入力分布の不確実性を反映するあいまいさ集合を定義する。
• これらの最適化された重みを用いてシミュレーションを実行し、性能指標の上限と下限を生成し、信頼区間を形成する。
• 経験的尤度をマルチサンプル設定に一般化することで、得られる信頼区間の漸近的分布的結果と統計的保証を導出する。
• ブートストラップのリサンプリングのオーバーヘッドを回避するため、凸最適化ソルバを活用し、乗法的予算配分の問題なしに効率的な計算を可能にする。
• 多変量正規近似を用いて上限と下限の同時漸近的分布を分析することで、理論的収束性およびカバレッジ特性を確立する。

実験結果

リサーチクエスチョン

• RQ1 ブートストラップ法よりも優れた計算効率を実現しつつ、非パラメトリックな入力不確実性を考慮したシミュレーション出力の信頼区間をどのように構築できるか。
• RQ2 有限標本において、最適化ベースの信頼区間の統計的カバレッジ性能は、デルタ法やブートストラップ法と比べてどうなるか。
• RQ3 経験的尤度の一般化を用いることで、入力不確実性下でタイトで理論的根拠のある信頼区間を提供できるか。
• RQ4 統計的妥当性と実装の実用性の観点から、本手法はロバスト最適化フレームワークと比べてどのように差がつくか。
• RQ5 最適化駆動の重み付きシミュレーションから導かれる信頼区間の境界の漸近的性質は何か。

主な発見

• 提案手法は、重み付きシミュレーションにより性能指標の非線形性を捉えることで、デルタ法よりも優れた有限標本カバレッジを達成し、カバレッジ不足の問題を軽減する。
• 最適化ベースのアプローチは、ブートストラップのネストドシミュレーションのオーバーヘッドを回避し、優れた計算効率とスケーラビリティを実現する。
• 正規性条件の下で、漸近的に正確な信頼区間を提供し、カバレッジ確率が名目水準 $1 - \alpha$ に収束する。
• 理論的分析により、上限と下限が相関構造が入力およびシミュレーションの分散によって決定される2次元正規分布に分布収束することが示された。
• 上限カバレッジ確率の上界は $1 - \alpha + \alpha^2/4$ で抑えられ、これは $1 - \alpha$ の名目水準よりもきめが細かく、保守的だが妥当な推論を示している。
• シミュレーション反復回数が入力標本サイズよりも速やかに増加する場合、本手法の境界はベースラインアルゴリズムの境界に収束し、漸近的正確性が保証される。