[论文解读] How Big Should Your Data Really Be? Data-Driven Newsvendor: Learning One Sample at a Time

Omar Besbes, Omar Mouchtaki|arXiv (Cornell University)|Jul 6, 2021

Risk and Portfolio OptimizationDecision Sciences被引用 20

一句话总结

本文首次对数据驱动报童问题中的样本平均近似（SAA）算法进行了有限样本下的精确分析，揭示了仅需几十个样本即可实现优异性能，而更多数据反而可能降低SAA的最坏情况样本外性能。此外，本文推导出一种极小化最大损失意义下的最优策略，该策略在数据有限时显著优于SAA，且精确刻画了最小化最大遗憾的收敛速率，包含闭式表达的乘数常数。

ABSTRACT

We study the classical newsvendor problem in which the decision-maker must trade-off underage and overage costs. In contrast to the typical setting, we assume that the decision-maker does not know the underlying distribution driving uncertainty but has only access to historical data. In turn, the key questions are how to map existing data to a decision and what type of performance to expect as a function of the data size. We analyze the classical setting with access to past samples drawn from the distribution (e.g., past demand), focusing not only on asymptotic performance but also on what we call the transient regime of learning, i.e., performance for arbitrary data sizes. We evaluate the performance of any algorithm through its worst-case relative expected regret, compared to an oracle with knowledge of the distribution. We provide the first finite sample exact analysis of the classical Sample Average Approximation (SAA) algorithm for this class of problems across all data sizes. This allows to uncover novel fundamental insights on the value of data: it reveals that tens of samples are sufficient to perform very efficiently but also that more data can lead to worse out-of-sample performance for SAA. We then focus on the general class of mappings from data to decisions without any restriction on the set of policies and derive an optimal algorithm (in the minimax sense) as well as characterize its associated performance. This leads to significant improvements for limited data sizes, and allows to exactly quantify the value of historical information.

研究动机与目标

• 理解数据驱动策略在所有数据规模下的性能表现，而不仅限于渐近情形。
• 分析SAA算法在报童问题中任意样本规模下的最坏情况相对遗憾。
• 在极小化最大损失意义下推导最优数据驱动策略，并量化其性能以及数据的价值。
• 刻画最小化最大遗憾的精确收敛速率，并判断SAA在乘数常数层面上是否最优。

提出的方法

• 通过推导最坏情况相对遗憾的精确表达式，对SAA算法进行有限样本分析，其结果为数据规模n的函数。
• 提出一种针对所有数据到决策映射的极小化最大优化框架，以推导任意给定数据规模下的最优策略。
• 推导出最小化最大遗憾的闭式表达式，即极小化最大损失策略 π_cvx(k,γ)，该策略在所有分布下均最小化最坏情况遗憾。
• 利用 M=10^5 次蒙特卡洛重复模拟，估算达到目标相对遗憾水平所需的样本数量。
• 通过精确有限样本分析，刻画最小化最大遗憾的精确收敛速率，包括乘数常数。
• 在最坏情况与温和分布假设下，对多种分布（伯努利、均匀、指数、对数正态、帕累托）下的SAA与极小化最大损失最优策略进行比较。

实验结果

研究问题

• RQ1 在报童问题中，SAA算法在任意有限样本规模下的最坏情况性能究竟如何？
• RQ2 更多数据是否总是能提升SAA的样本外性能，还是可能使其性能下降？
• RQ3 在极小化最大损失意义下，最优数据驱动策略是什么？它在数据有限时如何优于SAA？
• RQ4 最小化最大遗憾的精确收敛速率是什么？SAA在乘数常数层面上是否最优？
• RQ5 在不同数据规模与分布假设下，数据的价值如何变化？

主要发现

• SAA算法在仅10–20个样本时即可实现优异性能，表明在实践中少量数据已具高度有效性。
• 对于最坏情况下的伯努利分布，SAA需210个样本才能实现5%的相对遗憾，但更多数据反而导致最坏情况性能下降。
• 极小化最大损失策略在所有分布与数据规模下均持续优于SAA，实现相同遗憾目标所需样本数最多可减少30%。
• 在最坏情况伯努利分布下，极小化最大损失策略仅需14个样本即可实现10%的最坏情况相对遗憾，而SAA则需21个样本。
• 通过精确有限样本分析，得到了最小化最大遗憾收敛速率的半闭式表达式，其中包含乘数常数，揭示SAA为速率最优但非常数最优。
• 研究表明，通过极小化最大优化对SAA进行鲁棒化处理，可带来显著性能提升，尤其在数据有限的过渡阶段。