[論文レビュー] Dynamic optimization with side information

Dimitris Bertsimas, Christopher McCord+1 more|arXiv (Cornell University)|Jul 17, 2019

Supply Chain and Inventory Management被引用数 6

ひとこと要約

本稿では、多段階動的意思決定問題におけるロバスト最適化のためのデータ駆動型不確実性集合の重み付けに機械学習（例：k-NN、ランダムフォレスト）を統合する、実行可能なフレームワークである「補助情報付きのサンプルロバスト最適化（SRO-SI）」を提案する。この手法は漸近的最適性を達成し、在庫管理、ファイナンス、出荷計画の例において、アウトオブサンプル性能が代替手法よりも最大15%優れている。12段階問題においては計算時間が1分未塔である。

ABSTRACT

We develop a tractable and flexible approach for incorporating side information into dynamic optimization under uncertainty. The proposed framework uses predictive machine learning methods (such as $k$-nearest neighbors, kernel regression, and random forests) to weight the relative importance of various data-driven uncertainty sets in a robust optimization formulation. Through a novel measure concentration result for a class of machine learning methods, we prove that the proposed approach is asymptotically optimal for multi-period stochastic programming with side information. We also describe a general-purpose approximation for these optimization problems, based on overlapping linear decision rules, which is computationally tractable and produces high-quality solutions for dynamic problems with many stages. Across a variety of examples in inventory management, finance, and shipment planning, our method achieves improvements of up to 15\% over alternatives and requires less than one minute of computation time on problems with twelve stages.

研究の動機と目的

• 不確実性下での動的最適化に補助情報を取り入れる汎用的で実行可能な手法の開発を目的とする。
• 未知の最適意思決定ルールを有する多段階確率的計画問題において、予測分析と意思決定意思決定の橋渡しを果たすことを目的とする。
• 非パラメトリックな機械学習手法を用いて不確実性集合の重み付けを行う場合の漸近的最適性を保証することを目的とする。
• 重なりのある線形意思決定ルールを用いることで、ロバスト最適化を高段階の動的問題にスケーリングすることを目的とする。
• SAAおよび補助情報なしのSROと比較して、実験的に優れたアウトオブサンプル性能を示すことを目的とする。

提案手法

• 観測された補助情報に近い履歴データポイントの重みを、k-NN、カーネル回帰、ランダムフォレストなどの予測的機械学習手法を用いて割り当てる。
• 最近接の近傍の周りにℓ₁ノルムを用いたデータ駆動型不確実性集合を構築し、半径εを標本サイズに従って小さくする。
• 弱い正則性条件の下で、局所学習手法に対する新しい測度濃縮結果を用いて、重み付き不確実性集合の漸近的最適性を証明する。
• 高次元で多段階のポリシーを効率的に近似するために、重なりのある線形意思決定ルールを用いる。
• 計算の実行可能性を維持するため、複数のポリシー近似スキームを用いて、得られたロバスト最適化問題を解く。
• 実験的評価において、サンプル平均近似（SAA）およびロバスト最適化をベースライン比較として用いる。

実験結果

リサーチクエスチョン

• RQ1 機械学習手法を、不確実性下での動的意思決定を改善するための体系的な方法でロバスト最適化に統合できるか？
• RQ2 非パラメトリックな学習を用いて不確実性集合の重み付けを行う場合、提案フレームワークは漸近的最適性を達成するか？
• RQ3 補助情報の取り入れが、多段階動的問題におけるアウトオブサンプル性能に与える影響は何か？
• RQ4 多くの段階を含む問題に対しても、計算の実行可能性を維持しながらスケーリング可能か？
• RQ5 SAAおよび補助情報なしのSROと比較して、提案手法の実験的性能向上はどの程度か？

主な発見

• 提案されたSRO-SI手法は、出荷計画、在庫管理、ファイナンスの例において、代替手法と比較して最大15%高いアウトオブサンプル利益を達成した。
• 出荷計画の例では、SRO-SIはSAAおよび補助情報なしのSROを著しく上回り、多重仮説検定補正後のp値が0.05未塔であった。
• 弱い正則性条件の下で、局所学習手法に対する新しい測度濃縮結果のおかげで、この手法は漸近的最適性を達成する。
• 重なりのある線形意思決定ルールを用いた複数ポリシー近似スキームにより、12段階問題が1分未塔で効率的に解けるようになった。
• 実験結果から、SAAおよびSROが補助情報なしでは同程度の性能を示しても、補助情報を組み込むことで有意義な性能向上が得られることを示した。
• 高次元で多段階の問題に対しても、強力なアウトオブサンプル性能を維持しながら、効果的にスケーリング可能である。