[论文解读] Rethinking and Recomputing the Value of Machine Learning Models

Burcu Sayin, Jie Yang+3 more|arXiv (Cornell University)|Sep 30, 2022

Business Process Modeling and Analysis被引用 4

一句话总结

本文主张机器学习模型评估必须从以准确率为重心的指标转向以价值为导向的评估方式，其中模型效用取决于应用场景、拒绝对阈值以及错误成本。研究证明，当错误代价高昂时，简单模型在实际价值上往往优于复杂模型，且通过阈值设定与基于价值的选择方法显著优于仅依赖校准或准确率的评估方式。

ABSTRACT

In this paper, we argue that the prevailing approach to training and evaluating machine learning models often fails to consider their real-world application within organizational or societal contexts, where they are intended to create beneficial value for people. We propose a shift in perspective, redefining model assessment and selection to emphasize integration into workflows that combine machine predictions with human expertise, particularly in scenarios requiring human intervention for low-confidence predictions. Traditional metrics like accuracy and f-score fail to capture the beneficial value of models in such hybrid settings. To address this, we introduce a simple yet theoretically sound "value" metric that incorporates task-specific costs for correct predictions, errors, and rejections, offering a practical framework for real-world evaluation. Through extensive experiments, we show that existing metrics fail to capture real-world needs, often leading to suboptimal choices in terms of value when used to rank classifiers. Furthermore, we emphasize the critical role of calibration in determining model value, showing that simple, well-calibrated models can often outperform more complex models that are challenging to calibrate.

研究动机与目标

• 将机器学习模型评估的重心从准确率或校准指标转向现实世界中的价值评估。
• 解决在企业与社会人工智能应用中，因错误代价高昂而标准评估方法存在局限的问题。
• 证明模型选择应优先考虑其在工作流中的价值表现，而不仅限于预测性能。
• 揭示在选择性人工智能系统中，使用准确率或校准指标作为模型效用代理的潜在风险。
• 展示在错误代价高昂时，经过领域特定训练的简单模型在价值维度上往往优于大型预训练模型，尤其在高成本场景下。

提出的方法

• 通过考虑拒绝对率、预测正确性及错误成本的价值函数，重新定义模型评估方式。
• 模型价值通过在不同拒绝对阈值（k）下的期望效用计算，模拟真实世界部署场景。
• 实验采用基于阈值的拒绝对，模拟人机协同工作流，并在不同成本因子下测量模型价值。
• 模型比较不再仅依据准确率，而是基于其在不同k值（如k=1至k=10）下的价值曲线，反映现实中的成本权衡。
• 研究在MDS数据集上评估了多种模型，包括逻辑回归、多层感知机（MLP）、BERT、T5以及微调后的GPT-3，均使用领域特定的文本编码器。
• 价值通过理论阈值计算，并以价值曲线形式可视化，用于比较不同成本敏感场景下的模型表现。

实验结果

研究问题

• RQ1 当错误与拒绝对的成本因素不同时，模型价值如何变化？
• RQ2 标准指标如准确率或F1在选择性人工智能系统中，多大程度上无法准确预测现实中的模型效用？
• RQ3 当错误代价高昂时，简单模型是否能在价值维度上超越大型预训练模型？
• RQ4 模型校准与高置信度预测正确性的概率之间有何关联？
• RQ5 在高成本错误场景下，领域特定训练及分布外数据对模型价值有何影响？

主要发现

• 在高成本因子（k ≥ 4）下，使用TF-IDF编码器的简单模型（如逻辑回归和MLP1）在价值维度上优于复杂模型（如T5和SieBERT）。
• 微调后的GPT-3模型在Kitchen数据集上准确率达85.3%，但在k=10时产生负价值，表明高准确率并不保证实际效用。
• 通过置信度阈值筛选预测可显著提升模型价值，且阈值调优在价值最大化方面优于校准方法。
• 即使经过校准，置信度分数仍无法可靠反映预测正确的概率，从而削弱了标准校准指标的有效性。
• 在分布外数据上训练的模型在错误成本上升时价值迅速下降，而领域内训练的简单模型则保持更优表现。
• 价值曲线表明，最优模型取决于具体应用场景：某一应用（如DVD）的最优模型在另一应用（如Kitchen）中可能表现不佳，凸显了上下文依赖性。