[论文解读] Estimating the Maximum Expected Value: An Analysis of (Nested) Cross Validation and the Maximum Sample Average

Hado van Hasselt|arXiv (Cornell University)|Feb 28, 2013

Statistical Methods and Inference参考文献 20被引用 19

一句话总结

本文分析了两种常见估计器在估计随机变量最大期望值时的偏差与方差：最大样本均值（ME）和交叉验证（CV），包括嵌套交叉验证。研究证明了不存在无偏估计器，表明ME存在系统性向上偏差，CV可能具有较大的负偏差，并且展示了估计器性能高度依赖于底层分布，因此通用规则无效。

ABSTRACT

We investigate the accuracy of the two most common estimators for the maximum expected value of a general set of random variables: a generalization of the maximum sample average, and cross validation. No unbiased estimator exists and we show that it is non-trivial to select a good estimator without knowledge about the distributions of the random variables. We investigate and bound the bias and variance of the aforementioned estimators and prove consistency. The variance of cross validation can be significantly reduced, but not without risking a large bias. The bias and variance of different variants of cross validation are shown to be very problem-dependent, and a wrong choice can lead to very inaccurate estimates.

研究动机与目标

• 研究最大样本均值（ME）和交叉验证（CV）作为随机变量最大期望值估计器的准确性。
• 建立ME和CV估计器偏差与方差的分布无关的界。
• 证明对于最大期望值不存在无偏估计器，因此在缺乏对底层分布先验知识的情况下，选择优良估计器并非显而易见。
• 评估不同CV变体（尤其是嵌套CV）中偏差与方差之间的权衡，并表明其性能高度依赖于具体问题。
• 为为何标准10折CV通常合理但并非普遍最优提供理论依据，并引入一种在特定条件下具有改进特性的新型CV变体。

提出的方法

• 提出广义的最大样本均值估计器作为基线，定义为每个随机变量样本均值中的最大值。
• 将嵌套交叉验证（CV）作为替代估计器进行分析，即先对每个个体均值应用CV以进行估计，再选择最大值。
• 利用概率不等式（包括Efron-Stein不等式用于方差，Cantelli不等式用于偏差界）推导ME和CV的理论偏差与方差界。
• 提出一种新的CV变体，根据估计在各折中的选择频率对估计值进行加权，旨在降低偏差同时控制方差。
• 通过数学证明表明，CV的偏差非正（保守），而ME则存在严格正的偏差。
• 应用全期望定律与条件期望，推导最大估计器期望值的界，证明其一致性和偏差特性。

实验结果

研究问题

• RQ1 最大样本均值估计器在估计最大期望值时的偏差与方差特性为何？
• RQ2 与最大样本均值相比，嵌套交叉验证在偏差与方差方面表现如何？是否可能系统性地减少偏差？
• RQ3 能否为所有场景推荐通用规则（如10折CV）？还是估计器性能高度依赖于随机变量的底层分布？
• RQ4 不同CV变体的偏差与方差的理论界是什么？它们如何依赖于折数与样本大小？
• RQ5 是否存在一种基于CV的估计器，其均方误差可被严格证明低于最大样本均值估计器？在何种条件下成立？

主要发现

• 对于一组随机变量的最大期望值，不存在无偏估计器，使得估计器选择本质上具有挑战性。
• 最大样本均值估计器存在严格正的偏差，当真实均值接近且方差较高时，偏差会增大。
• 交叉验证，尤其是嵌套CV，具有非正偏差（保守），尽管方差可能较高，但在实践中具有优势。
• 通过所提出的加权CV变体可显著降低交叉验证的方差，但若未正确调优，可能带来更高的偏差。
• CV估计器的偏差与方差高度依赖于底层分布；采用“一刀切”方法（如始终使用10折CV）并非最优。
• 实证结果表明，在某些情况下嵌套CV可能将真实最大值高估高达4.2%（例如真实误差为50%时，估计值为54.2%），揭示了CV中此前被低估的普遍性偏差。