[論文レビュー] Multistage Stochastic Optimization via Kernels

Dimitris Bertsimas, Kimberly Villalobos Carballo|arXiv (Cornell University)|Mar 11, 2023

Statistical Methods and Inference被引用数 4

ひとこと要約

本稿では、再現性のあるヒルバート空間（RKHS）におけるカーネル法を用いた非パrametricでデータ駆動型の多段階確率的最適化手法を提案する。カーネルに基づく関数的確率的勾配降下法と関数部分空間への射影によるスパース化を用いることで、関数最適化を扱いやすくし、大規模データや高次元問題においてもスケーラブルな計算が可能となる。この手法は漸近的最適性を達成し、近似的に最適な性能を示す。

ABSTRACT

We develop a non-parametric, data-driven, tractable approach for solving multistage stochastic optimization problems in which decisions do not affect the uncertainty. The proposed framework represents the decision variables as elements of a reproducing kernel Hilbert space and performs functional stochastic gradient descent to minimize the empirical regularized loss. By incorporating sparsification techniques based on function subspace projections we are able to overcome the computational complexity that standard kernel methods introduce as the data size increases. We prove that the proposed approach is asymptotically optimal for multistage stochastic optimization with side information. Across various computational experiments on stochastic inventory management problems, {our method performs well in multidimensional settings} and remains tractable when the data size is large. Lastly, by computing lower bounds for the optimal loss of the inventory control problem, we show that the proposed method produces decision rules with near-optimal average performance.

研究の動機と目的

• シナリオツリーの列挙や次元の呪いを回避する非パrametricでデータ駆動型の多段階確率的最適化フレームワークを構築すること。
• 歴史的データと側面情報から複雑な非線形依存関係を捉えるために、意思決定ルールを再現性のあるヒルバート空間（RKHS）内の関数として表現すること。
• 大規模な設定における標準的カーネル法の計算不能性を、関数部分空間への射影によるスパース化を導入することで克服すること。
• 不確実性分布の弱い正則性条件のもとで、意思決定ルールの漸近的最適性を保証すること。
• 特に在庫および出荷計画問題において、高次元で大規模なデータ設定での手法の性能を経験的に検証すること。

提案手法

• 意思決定変数を普遍カーネルによって生成される再現性のあるヒルバート空間（RKHS）の要素としてモデル化し、複雑な意思決定ルールの非パラメトリック近似を可能にする。
• 関数的確率的勾配降下法を用いて、RKHS上で正則化された経験的損失関数を最小化し、離散的決定ではなく関数的パラメータに対して最適化を行う。
• 関数部分空間への射影によりスパース化を達成し、各意思決定変数の有効パラメータ数を削減し、カーネル法の計算負荷を軽減する。
• 関数的形でのRepresenter定理を活用するが、関数の低次元部分空間への射影によって、フルなカーネル行列の逆行列計算を回避する。
• 相関構造に制限を設けずに、履歴データと側面情報に基づいてアルゴリズムを学習する。
• 各段階で観測された情報に条件づけた意思決定ルールを逐次最適化することで、多段階問題に拡張し、各段階でカーネルベースの関数表現を用いる。

(a)

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックでカーネルベースの手法は、側面情報を持つ多段階確率的最適化で漸近的最適性を達成できるか？
• RQ2 シナリオツリーに依存せずに、大規模な多段階問題においてカーネル法を計算的に扱いやすくできるか？
• RQ3 関数部分空間への射影によるスパース化は、パラメータ数をどの程度削減できるか、かつ解の品質を維持できるか？
• RQ4 SAA、SRO、knnベース手法といった従来手法と比較して、本手法の予測外性能と計算時間の観点での優位性はいかほどか？
• RQ5 高次元設定および大規模データサイズにおいても、本手法は高い性能を維持できるか？

主な発見

• 出荷計画問題において、N=100のデータポイントでテストされた全手法の中で、SMOKアルゴリズムが最高の平均予測外利益（160,737.0）を達成した。
• N=5000でも、意思決定ごとに約60パラメータで済ませており、強力なスケーラビリティを示した。
• SMOKの計算時間はデータサイズの増加に伴いゆっくりと増加し、N=5000では252秒にとどまったが、SRO-knnとSAA-knnは計算不能（N=5000で54,000秒以上）となった。
• MOKとSMOKは、全データサイズにおいてSRO、SRO-knn、SAA-knnを上回る予測外利益を達成し、SMOKは性能と効率のバランスが最も優れていた。
• 在庫制御問題における下界の計算により、本手法が近似的に最適な平均性能を持つ意思決定ルールを生成していることが確認された。
• 理論的分析により、本手法が不確実性分布の弱い正則性条件のもとで漸近的最適性を有することが確認され、データサイズの増大に伴う一貫性が裏付けられた。

(c)