[论文解读] Deciding Fast and Slow: The Role of Cognitive Biases in AI-assisted Decision-making

Charvi Rastogi, Yunfeng Zhang+4 more|arXiv (Cornell University)|Oct 15, 2020

Human-Automation Interaction and Safety被引用 9

一句话总结

本文提出了一种认知偏差感知的框架，用于人机决策协作，重点关注锚定偏差——即人类过度依赖AI预测。该研究引入了一种基于时间的去锚定策略，以及一种基于置信度的时间分配策略，通过两次用户实验验证，结果表明该方法显著提升了人机协作的性能，尤其在AI预测错误或置信度较低时效果更明显。

ABSTRACT

Several strands of research have aimed to bridge the gap between artificial intelligence (AI) and human decision-makers in AI-assisted decision-making, where humans are the consumers of AI model predictions and the ultimate decision-makers in high-stakes applications. However, people's perception and understanding are often distorted by their cognitive biases, such as confirmation bias, anchoring bias, availability bias, to name a few. In this work, we use knowledge from the field of cognitive science to account for cognitive biases in the human-AI collaborative decision-making setting, and mitigate their negative effects on collaborative performance. To this end, we mathematically model cognitive biases and provide a general framework through which researchers and practitioners can understand the interplay between cognitive biases and human-AI accuracy. We then focus specifically on anchoring bias, a bias commonly encountered in human-AI collaboration. We implement a time-based de-anchoring strategy and conduct our first user experiment that validates its effectiveness in human-AI collaborative decision-making. With this result, we design a time allocation strategy for a resource-constrained setting that achieves optimal human-AI collaboration under some assumptions. We, then, conduct a second user experiment which shows that our time allocation strategy with explanation can effectively de-anchor the human and improve collaborative performance when the AI model has low confidence and is incorrect.

研究动机与目标

• 理解认知偏差（尤其是锚定偏差）如何扭曲高风险决策中的人机协作。
• 使用有偏的贝叶斯框架对认知偏差进行数学建模，以捕捉人类感知扭曲的影响。
• 设计并验证一种基于时间的去锚定策略，以减少对AI预测的过度依赖。
• 在资源受限条件下，设计最优时间分配策略，以提升人机团队协作表现。
• 评估基于置信度的解释在AI预测错误或不确定时，对缓解偏差的有效性。

提出的方法

• 定义了三个概念空间——观测空间、预测空间与感知空间，用于建模人机交互并分类认知偏差。
• 基于有限理性框架建模锚定偏差，其中对锚点的调整不足源于时间成本的权衡。
• 提出一种基于时间的去锚定策略，即增加决策时间可降低对AI锚点的依赖。
• 设计一种资源分配策略，在AI模型置信度较低时（尤其是预测错误时）分配更长的决策时间。
• 将基于置信度的解释整合进时间分配策略中，以提升人类理解并减少偏差。
• 在Amazon Mechanical Turk上开展两阶段用户实验，评估不同决策时长与解释条件下的策略表现。

实验结果

研究问题

• RQ1 增加决策时间如何影响人机协作决策中的锚定偏差？
• RQ2 当AI模型预测错误或不确定时，基于时间的资源分配策略是否能提升人机团队协作表现？
• RQ3 基于置信度的解释对减少人类对AI预测的过度依赖有何影响？
• RQ4 认知偏差（如锚定偏差与确认偏差）在观测空间与预测空间中的表现有何不同？
• RQ5 动态自适应时间分配策略在协作场景中，相较于静态策略或仅依赖AI的决策方式，能多大程度上实现更优表现？

主要发现

• 基于时间的去锚定策略显著降低了锚定偏差，随着决策时间增加，人类与AI预测的一致率下降。
• 最优时间分配策略（结合时间延长与基于置信度的解释）在性能上超越了人类单独决策与AI单独决策的基线表现。
• 当AI模型预测错误时，提供置信度解释可减少人类错误并提升决策准确性，尤其在长时间决策条件下效果更显著。
• 在领域特定训练后，人类单独决策的准确率与AI单独决策的准确率相当，验证了使用普通参与者作为专家行为代理的合理性。
• 当AI模型置信度低且预测错误时，该策略效果最佳，表明解释与时间分配的结合能有效缓解高风险场景下的偏差。
• 结果表明，动态且认知感知的策略在协作表现上优于静态或基于信任的策略。