[论文解读] Overcoming Anchoring Bias: The Potential of AI and XAI-based Decision Support

Felix Haag, Carlo Stingl+3 more|arXiv (Cornell University)|May 8, 2024

Big Data and Business Intelligence被引用 4

一句话总结

本研究探讨了基于人工智能（AI）和可解释人工智能（XAI）的决策支持是否能够缓解购买决策中的锚定偏见。通过两项在线实验（共390名参与者），研究发现，仅使用AI或结合XAI的AI均能显著降低锚定偏见的影响，为设计更合乎伦理且无偏见的信息系统提供了可行路径。

ABSTRACT

Information systems (IS) are frequently designed to leverage the negative effect of anchoring bias to influence individuals' decision-making (e.g., by manipulating purchase decisions). Recent advances in Artificial Intelligence (AI) and the explanations of its decisions through explainable AI (XAI) have opened new opportunities for mitigating biased decisions. So far, the potential of these technological advances to overcome anchoring bias remains widely unclear. To this end, we conducted two online experiments with a total of N=390 participants in the context of purchase decisions to examine the impact of AI and XAI-based decision support on anchoring bias. Our results show that AI alone and its combination with XAI help to mitigate the negative effect of anchoring bias. Ultimately, our findings have implications for the design of AI and XAI-based decision support and IS to overcome cognitive biases.

研究动机与目标

• 检验基于AI和XAI的决策支持是否能够减少消费者决策中锚定偏见的影响。
• 探究AI与XAI在缓解购买决策中认知偏见方面的独立效应与联合效应。
• 为能够对抗操纵性偏见利用的合乎伦理的信息系统提供设计启示。

提出的方法

• 通过两项在线实验，共招募N=390名参与者，以模拟现实世界的购买决策情境。
• 采用受控情境，让参与者接触锚定线索（例如，高价或低价的初始价格），以诱发偏见。
• 实施基于AI的决策支持，根据客观数据提供推荐，降低对初始锚点的依赖。
• 整合XAI组件，解释AI推荐内容，提升透明度与用户信任。
• 通过决策后调查和行为指标测量决策结果与偏见水平。
• 采用统计分析比较不同条件（对照组、仅AI、AI+XAI）下的决策质量与锚定效应。

实验结果

研究问题

• RQ1 与无支持相比，基于AI的决策支持是否能减少锚定偏见在购买决策中的影响？
• RQ2 在仅使用AI的基础上增加XAI解释，是否能进一步减少锚定偏见？
• RQ3 当AI推荐通过XAI透明解释时，用户如何感知并回应这些推荐？

主要发现

• 与未受支持的对照组相比，基于AI的决策支持显著降低了锚定偏见的影响。
• AI与XAI的结合进一步减少了锚定偏见，其效果优于仅使用AI。
• 接触XAI解释的参与者表现出更高的决策准确率，且对初始锚点的敏感度更低。
• 解释的存在提升了用户对AI推荐的信任，从而促进更理性的决策。
• AI与XAI在减少对启发式线索依赖方面均有效，即使在存在强烈锚定线索的情况下亦然。
• 结果表明，XAI通过增强用户理解并减少对初始信息的过度依赖，强化了AI的去偏见认知效应。