[论文解读] When Does Uncertainty Matter?: Understanding the Impact of Predictive Uncertainty in ML Assisted Decision Making

Sean McGrath, Parth S. Mehta+3 more|arXiv (Cornell University)|Nov 11, 2020

Decision-Making and Behavioral Economics被引用 8

一句话总结

本研究探讨了预测不确定性——特别是具有不同形状和方差的后验预测分布——如何影响机器学习辅助任务中的人类决策。通过一项包含1,330份回复的用户研究，发现无论用户专业水平如何，展示不确定性均能减少其与模型预测的分歧，尽管影响程度因分布类型和用户专业水平而异，表明当根据用户情境定制时，不确定性可成为有价值的决策辅助工具。

ABSTRACT

As machine learning (ML) models are increasingly being employed to assist human decision makers, it becomes critical to provide these decision makers with relevant inputs which can help them decide if and how to incorporate model predictions into their decision making. For instance, communicating the uncertainty associated with model predictions could potentially be helpful in this regard. In this work, we carry out user studies (1,330 responses from 190 participants) to systematically assess how people with differing levels of expertise respond to different types of predictive uncertainty (i.e., posterior predictive distributions with different shapes and variances) in the context of ML assisted decision making for predicting apartment rental prices. We found that showing posterior predictive distributions led to smaller disagreements with the ML model's predictions, regardless of the shapes and variances of the posterior predictive distributions we considered, and that these effects may be sensitive to expertise in both ML and the domain. This suggests that posterior predictive distributions can potentially serve as useful decision aids which should be used with caution and take into account the type of distribution and the expertise of the human.

研究动机与目标

• 理解不同类型的预测不确定性如何影响机器学习辅助情境中的人类决策。
• 考察领域专业知识和机器学习素养在解读和响应不确定性方面的作用。
• 评估传达后验预测分布是否能减少人类预测与模型输出之间的分歧。
• 评估不确定性分布形状和方差对人类信任度和决策一致性的影响力。
• 为不确定性沟通作为现实世界预测任务中决策辅助工具的实用性提供实证证据。

提出的方法

• 通过Prolific和大学研究团队招募190名参与者，开展一项关于马萨诸塞州剑桥市公寓租金预测的用户研究。
• 参与者首先在不提供模型信息的情况下提供价格预估，随后查看具有不同形状和方差的后验预测分布的模型预测结果。
• 采用两阶段设计，测量在接触模型输出和不确定性表示前后，人类预测的变化。
• 共收集1,330份有效回复，用于评估不同不确定性类型下人类与模型预测之间的分歧。
• 分析不确定性呈现方式对决策一致性的影响力，同时控制领域专业知识和机器学习素养水平。
• 采用统计建模方法，比较不同后验预测分布类型和专业知识群体之间的分歧水平。

实验结果

研究问题

• RQ1 展示具有不同形状和方差的后验预测分布，如何影响人类对机器学习模型预测的一致性？
• RQ2 领域专业知识在机器学习辅助决策中如何影响对预测不确定性的解读和响应？
• RQ3 对机器学习的熟悉程度如何影响不确定性沟通对决策结果的影响？
• RQ4 不确定性沟通是否能在不同专业水平下减少人类与模型预测之间的分歧？
• RQ5 不同形式的不确定性（例如双峰分布与高方差正态分布）如何影响人类决策行为？

主要发现

• 展示后验预测分布显著减少了人类对模型预测的分歧，无论分布形状或方差如何。
• 领域专业知识水平较高的参与者初始与模型预测的分歧较小，但不确定性沟通在所有专业水平下均减少了分歧。
• 不确定性呈现方式的影响对领域专业知识和机器学习素养均敏感，表明专家用户可能与非专家用户以不同方式解读不确定性。
• 即使在高方差或双峰后验预测分布下，分歧也有所减少，表明不确定性沟通有助于提升与模型输出的一致性。
• 研究未发现复杂不确定性分布（如双峰分布）相比简单分布会导致更多困惑或不一致。
• 结果表明，不确定性沟通可作为有用的决策辅助工具，但其有效性取决于用户的专业知识水平以及所呈现的不确定性形式。