[論文レビュー] From Contextual Data to Newsvendor Decisions: On the Actual Performance of Data-Driven Algorithms

Omar Besbes, Will Ma+1 more|arXiv (Cornell University)|Feb 16, 2023

Risk and Portfolio Optimization被引用数 4

ひとこと要約

本稿は、文脈的ニューズベンドラー問題における重み付き経験的リスク最小化（WERM）方策の最悪ケースの後悔を正確に特徴付ける最適化に基づくフレームワークを導入する。その結果、性能が有限の標本サイズでピークに達すること、およびデータの関連性が学習曲線を決定的に形作ることを明らかにした。これは、従来の集中に基づく上限が大規模データセットの必要性を過大評価しているのと対照的である。

ABSTRACT

In this work, we study how the relevance/quality and quantity of past data influence performance by analyzing a contextual Newsvendor problem, in which a decision-maker trades off between underage and overage costs under uncertain demand. We consider a setting in which past demands observed under ``close by'' contexts come from close by distributions and analyze the performance of data-driven algorithms through a notion of context-dependent worst-case expected regret. We analyze the broad class of Weighted Empirical Risk Minimization (WERM) policies which weigh past data according to their similarity in the contextual space. This class includes classical policies such as ERM, k-Nearest Neighbors and kernel-based policies. Our main methodological contribution is to characterize exactly the worst-case regret of any WERM policy on any given configuration of contexts. To the best of our knowledge, this provides the first understanding of tight performance guarantees in any contextual decision-making problem, with past literature focusing on upper bounds via concentration inequalities. We instead take an optimization approach, and isolate a structure in the Newsvendor loss function that allows to reduce the infinite-dimensional optimization problem over worst-case distributions to a simple line search. This in turn allows us to unveil fundamental insights that were obfuscated by previous general-purpose bounds. We characterize actual guaranteed performance as a function of the contexts, as well as granular insights on the learning curve of algorithms.

研究の動機と目的

• データの量と関連性が文脈的意思決定におけるデータ駆動型方策の性能に与える影響を理解すること。
• 文脈依存の分布シフト下でのWERM方策に対して、正確で漸近的でない性能保証を構築すること。
• 従来の集中に基づく上界が、文脈的ニューズベンドラー問題における実際の学習曲線を誤って表現していることを示し、それらを疑問視すること。
• 異種のデータ関連性下でのERM、k-NN、カーネルベース方策の有効標本サイズと最適パラメータ選択を定量すること。
• 従来の上限が示唆するよりも、少ない標本数でもERMが良好な性能を達成できることを示すこと。

提案手法

• 文脈の相違度と需要分布間のコルモゴロフ距離の間のローカルな関係を明確化する。
• ローカル条件を満たす敵対的分布下で、方策の行動と最適行動の期待損失差として最悪ケース後悔を定義する。
• 「集中を伴わない学習」と呼ばれる最適化アプローチを用い、無限次元の最悪ケース分布問題を1次元の探索問題に還元する。
• ニューズベンドラー損失関数の構造的性質を活用して、任意のWERM方策の正確な最悪ケース後悔を特徴付ける。
• ERMやk-NN-ERMを含むWERMサブクラスの最小最悪ケース後悔に対する閉形式の式を導出する。
• 指数重み付けの $1/(1-γ)$ やk-NNの $k^*$ といった有効標本サイズの代理指標を用いて性能をキャリブレーションする。

実験結果

リサーチクエスチョン

• RQ1 過去の文脈とアウトオブサンプルの文脈との相違度が、データ駆動型方策の最悪ケース後悔にどのように影響するか？
• RQ2 WERM方策の文脈的ニューズベンドラー問題における正確でタイトな性能保証を導出できるか？上界に依存するのではなく。
• RQ3 ERMの最悪ケース後悔は標本サイズが増加するにつれて単調に減少するのか？それとも大規模データセットでは悪化する可能性があるか？
• RQ4 異種のデータ関連性下でのWERM方策の有効標本サイズは何か？
• RQ5 ERMおよびk-NN-ERMの最適パラメータは、文脈の相違度とデータ関連性にどのように変化するか？

主な発見

• ERMの最悪ケース後悔は、有限の標本サイズでグローバル最小値に達し、その後標本数が増えると増加する。これは、集中に基づく上界が示唆する単調な改善とは対照的である。
• $\Delta = 0.001$ の場合、最適なk-NN-ERMはわずか $k^* = 27$ 個の標本を使用する。これは、均一な相違度仮定が示唆するよりもはるかに小さい有効標本サイズであることを示している。
• 指数重み付けの有効標本サイズの代理指標 $1/(1 - \gamma^*)$ は、$k^*$ と同等の規模であり、$\Delta = 0.001$ のとき $k^* = 27$ であれば $1/(1 - \gamma^*) = 20$ となる。
• データ関連性が非一様な場合、k-NN-ERMが使用する標本数は一様な設定よりも小さくなる。これは、低相違度のデータが性能を支配することが示唆される。
• k-NN-ERMの最小最悪ケース後悔は $\Delta = 0.001$ 時に $0.014$ であり、同じ条件下でERMの $0.016$ よりも優れている。
• 解析により、従来の上界は分析手法に起因する人工的要因であり、特にERMの学習曲線の真の形状を反映していないことが明らかになった。