[论文解读] From Contextual Data to Newsvendor Decisions: On the Actual Performance of Data-Driven Algorithms

Omar Besbes, Will Ma+1 more|arXiv (Cornell University)|Feb 16, 2023

Risk and Portfolio Optimization被引用 4

一句话总结

本文提出了一种基于优化的框架，精确刻画了上下文新svendor问题中加权经验风险最小化（WERM）策略的最坏情况遗憾，揭示了性能可能在有限样本量下达到峰值，且数据相关性对学习曲线具有决定性影响——这与传统基于集中度的界形成矛盾，后者高估了对大规模数据集的需求。

ABSTRACT

In this work, we study how the relevance/quality and quantity of past data influence performance by analyzing a contextual Newsvendor problem, in which a decision-maker trades off between underage and overage costs under uncertain demand. We consider a setting in which past demands observed under ``close by'' contexts come from close by distributions and analyze the performance of data-driven algorithms through a notion of context-dependent worst-case expected regret. We analyze the broad class of Weighted Empirical Risk Minimization (WERM) policies which weigh past data according to their similarity in the contextual space. This class includes classical policies such as ERM, k-Nearest Neighbors and kernel-based policies. Our main methodological contribution is to characterize exactly the worst-case regret of any WERM policy on any given configuration of contexts. To the best of our knowledge, this provides the first understanding of tight performance guarantees in any contextual decision-making problem, with past literature focusing on upper bounds via concentration inequalities. We instead take an optimization approach, and isolate a structure in the Newsvendor loss function that allows to reduce the infinite-dimensional optimization problem over worst-case distributions to a simple line search. This in turn allows us to unveil fundamental insights that were obfuscated by previous general-purpose bounds. We characterize actual guaranteed performance as a function of the contexts, as well as granular insights on the learning curve of algorithms.

研究动机与目标

• 理解数据量和相关性如何影响数据驱动策略在上下文决策中的表现。
• 在上下文依赖的分布偏移下，为WERM策略开发精确的、非渐近的性能保证。
• 通过表明集中度上界错误地描述了上下文新svendor问题中的实际学习曲线，挑战现有集中度上界。
• 量化在异质数据相关性下，ERM、k-NN和核基策略的有效样本量及最优参数选择。
• 证明即使在先前的界表明不可行的情况下，ERM仍可用少量样本实现良好性能。

提出的方法

• 形式化定义一个局部条件，将上下文差异与需求分布之间的柯尔莫哥洛夫距离关联起来。
• 将最坏情况遗憾定义为在满足局部条件的对抗性分布下，策略动作与最优动作之间期望损失差。
• 采用一种优化方法——“无需集中化的学习”——将无限维的最坏情况分布问题简化为一维线搜索。
• 通过利用新svendor损失函数的结构特性，精确刻画任意WERM策略的最坏情况遗憾。
• 推导出WERM子类（包括ERM和k-NN-ERM）最小最坏情况遗憾的闭式表达式。
• 使用有效样本量代理变量（如指数加权的$1/(1-γ)$和k-NN的$k^*$）校准性能。

实验结果

研究问题

• RQ1 过去上下文与样本外上下文之间的差异如何影响数据驱动策略的最坏情况遗憾？
• RQ2 我们能否为上下文新svendor问题中的WERM策略推导出精确、紧致的性能保证，而非依赖于上界？
• RQ3 ERM的最坏情况遗憾是否随样本量单调递减，还是可能在大数据集下恶化？
• RQ4 在异质数据相关性下，WERM策略的有效样本量是多少？
• RQ5 ERM和k-NN-ERM的最优参数如何随上下文差异和数据相关性变化？

主要发现

• ERM的最坏情况遗憾在有限样本量下达到全局最小值，随后随数据增多而增加，这与集中度上界所暗示的单调改进相矛盾。
• 当$\Delta = 0.001$时，最优k-NN-ERM仅使用$k^* = 27$个样本，表明其有效样本量远小于均匀差异假设所暗示的规模。
• 指数加权的有效样本量代理$1/(1 - \gamma^*)$与$k^*$相当，当$k^* = 27$且$\Delta = 0.001$时，$1/(1 - \gamma^*) = 20$。
• 当数据相关性异质时，k-NN-ERM使用的样本数少于同质设置，表明低差异性数据主导了性能表现。
• 在$\Delta = 0.001$时，k-NN-ERM的最小最坏情况遗憾为$0.014$，优于ERM在相同条件下的$0.016$。
• 分析表明，先前的上界是分析方法的产物，并未反映学习曲线的真实形状，尤其对ERM而言。