[論文レビュー] Robust Sensitivity Analysis for Stochastic Systems

Henry Lam|arXiv (Cornell University)|Mar 2, 2013

Probabilistic and Robust Engineering Design参考文献 58被引用数 9

ひとこと要約

本稿は、モデル不適合の下で確率的システムの漸近的感度分析フレームワークを構築し、不確実性をカルバック・ライブラー（KL）ダイバージェンスを用いて定量化する。ベースラインモデルのまわりにおける最悪性能指標の無限小展開を導出し、その係数をシミュレーションで計算可能とする。これにより、i.i.d. 入力を有する複雑なシステムにおける取り扱い可能な非パrametric感度分析が可能になる。

ABSTRACT

We study a worst-case approach to measure the sensitivity to model misspecification in the performance analysis of stochastic systems. The situation of interest is when only minimal parametric information is available on the form of the true model. Under this setting, we post optimization programs that compute the worst-case performance measures, subject to constraints on the amount of model misspecification measured by Kullback-Leibler (KL) divergence. Our main contribution is the development of infinitesimal approximations for these programs, resulting in asymptotic expansions of their optimal values in terms of the divergence. The coefficients of these expansions can be computed via simulation, and are mathematically derived from the representation of the worst-case models as changes of measure that satisfy a well-defined class of functional fixed point equations.

研究の動機と目的

• ベースラインモデルしか入手できない状況で真のモデルが不明である場合の性能ロバストネスを評価する課題に対処すること。
• i.i.d. 入力を有する確率的システムにおける取り扱い可能な非パrametric感度分析フレームワークを構築すること。
• 最適化が非凸的かつ無限次元であっても、KLダイバージェンス制約の下での最悪性能指標を計算すること。
• モデル不確実性（KLダイバージェンス）がゼロに近づく際の最悪性能の漸近的展開を導出すること。
• モデル不適合の影響を定量化する感度係数のシミュレーションベース計算を可能とすること。

提案手法

• ベースライン測度 $P_0$ からのモデルのずれを制約とするKLダイバージェンスを用いて、最悪性能最適化を定式化する。
• 無限小解析を用いて、最悪性能の最適値を $\sqrt{\eta}$ のべき級数として展開する。ここで $\eta$ はKLダイバージェンスの上限である。
• 最悪モデル下で満たされる関数的固定点方程式を満たす測度の変更を用いて、展開の係数を導出する。
• ドンスカー＝ヴァラドハンの変分原理とラグランジュ緩和を用いて、最悪測度を関数方程式で特徴付ける。
• 停止時刻の議論と収束結果を用いて、$\eta \to 0$ の際の最悪尤度比の極限挙動を正当化する。
• 展開係数が、ベースライン測度 $P_0$ の下でシミュレーションによって計算可能であることを確立する。

実験結果

リサーチクエスチョン

• RQ1 真のモデルが不適合であるがベースラインモデルしか入手できない状況で、最悪性能をどのように定量化できるか？
• RQ2 モデル不確実性（KLダイバージェンスで測定）がゼロに近づく際、最悪性能の漸近的挙動はいかなるものか？
• RQ3 モデル不適合への性能感度を、ダイバージェンスレベルの級数展開として近似できるか？
• RQ4 このような展開の係数は、ベースラインモデルの下でシミュレーションによって計算可能か？
• RQ5 非凸的かつ無限次元的な最悪最適化問題を、確率的システムにおいてどのように取り扱い可能にするか？

主な発見

• 最悪性能指標の最適値は、$\eta$（KLダイバージェンスの上限）のべき級数として漸近展開可能である。
• 展開における一次係数 $\zeta_1(P_0, h)$ は、モデル不適合に対する性能の一次の感度を捉える。
• $\zeta_1, \zeta_2, \dots$ の係数は、コスト関数 $h$ とベースライン測度 $P_0$ の関数として明示的に表現可能である。
• これらの係数は、ベースライン測度 $P_0$ の下でモンテカルロシミュレーションにより計算可能であり、実装が可能である。
• 最悪モデルは、コスト関数と尤度比を含む関数的固定点方程式の解によって定義される測度の変更に対応する。
• 停止時刻の議論とモーメントバウンドを用いて、最悪尤度比およびそのエントロピー項の収束が厳密に確立されている。