[論文レビュー] A Kernel Mean Embedding Approach to Reducing Conservativeness in Stochastic Programming and Control

Jia-Jie Zhu, Moritz Diehl+1 more|arXiv (Cornell University)|Jan 28, 2020

Probabilistic and Robust Engineering Design参考文献 16被引用数 4

ひとこと要約

本稿では、再帰的再生ヒルバート空間（RKHS）における分布距離正則化最適化問題としてのシナリオ削減を定式化することにより、確率的プログラミングおよび制御における過剰な保守性を低減するカーネル平均埋め込み手法を提案する。RKHS距離正則化を用いた低次元集合展開により、制約の満たし方を維持しながら最適性を向上させる、より少ない代表的シナリオ集合を選択する。これにより、計算負荷を著しく軽減しつつ、最大5%の制約違反確率を達成する。

ABSTRACT

We apply kernel mean embedding methods to sample-based stochastic optimization and control. Specifically, we use the reduced-set expansion method as a way to discard sampled scenarios. The effect of such constraint removal is improved optimality and decreased conservativeness. This is achieved by solving a distributional-distance-regularized optimization problem. We demonstrated this optimization formulation is well-motivated in theory, computationally tractable and effective in numerical algorithms.

研究の動機と目的

• すべてのサンプルシナリオに制約を強制する従来の確率的プログラミングおよび制御手法に内在する保守性を低減すること。
• 最小限の代表的シナリオサブセットを維持しながら実行可能性を保ちつつ、最適性を向上させるデータ駆動型で取り扱いやすい最適化フレームワークを開発すること。
• 不確実性の経験的分布をモデル化するために再生ヒルバート空間（RKHS）埋め込みを適用し、分布の類似度に基づいてシナリオ削除を正則化すること。
• 数値実験を通じて、カーネルベースの分布距離に基づくシナリオ削除が、より保守的でない、性能の高い制御系を実現することを示すこと。

提案手法

• 経験的分布と低次元分布との間のRKHS距離を最小化する凸最適化問題として、シナリオ削減問題を定式化する。
• 低次元集合展開法を用い、選択されたシナリオ上のディラック測度の重み付き和として低次元分布を表現し、l1正則化最適化により重みを学習する。
• 制約境界からの距離に基づき、制約違反の可能性が近いシナリオの削除を優先するスケーリング要因を目的関数に導入する。
• 連続時間ダイナミクスを複数シュート法を用いて離散化し、IPOPTを用いて解くことで、最適制御問題にアルゴリズムを適用する。
• 大規模なサンプルサイズを用いたモンテカルロシミュレーションにより、シナリオ削減後の制約違反確率および期待コストを推定する。
• 分布の類似度を測るRKHSベースの距離測度を用いて、シナリオ選択プロセスを正則化し、低次元分布が元の経験的分布に近いまま保たれるようにする。

実験結果

リサーチクエスチョン

• RQ1 カーネル平均埋め込み法は、サンプルベースの確率的プログラミングおよび制御における保守性低減に効果的に適用可能か？
• RQ2 分布距離正則化最適化問題としてのシナリオ削減は、実行可能性を維持しながら最適性を向上させるためにどのように定式化可能か？
• RQ3 制約に近いシナリオに基づいて削除を行う場合、制約違反確率と期待コストのトレードオフはどのように変化するか？
• RQ4 RKHSベースの埋め込みは、計算的に取り扱いやすく、理論的に裏付けられた確率的最適制御におけるシナリオ選択手法を可能にするか？

主な発見

• 提案手法は、14のシナリオを削除した場合（l1正則化係数 10−5）、2%の制約違反確率を達成し、保守性の低減を示した。
• 83のシナリオを削除した場合（l1正則化係数 5×10−3）、制約違反確率は5%に上昇し、保守性と性能の間の期待されるトレードオフが確認された。
• 低次元集合埋め込み法を用いて得られた制御系は、全シナリオ解よりも期待コストが改善されており、より高い最適性を示した。
• 制約境界からの最小距離に基づくスケーリング要因により、制約違反の可能性が近いシナリオが効果的に同定され、削除されたことが示された。
• モンテカルロシミュレーションにより、低次元集合アプローチが、制約数の顕著な削減にもかかわらず、妥当な実行可能性水準を維持することが確認された。
• この手法は計算的に取り扱いやすく、理論的根拠にも裏付けられており、分布ロバスト最適化への応用が可能であると示唆された。