[论文解读] Do explanations increase the effectiveness of AI-crowd generated fake news warnings?

Ziv Epstein, N. Foppiani+4 more|arXiv (Cornell University)|Dec 7, 2021

Misinformation and Its Impacts被引用 7

一句话总结

本研究调查了解释是否能增强AI-众包混合预警标签在虚假新闻识别中的有效性。通过对1,473名美国人的调查发现，无论是否附带解释，预警标签都能提升用户在分享虚假新闻时的辨别能力，尽管解释并未显著提高用户自报的信任度，表明透明度可能在不必然增加信任的情况下提升信息的有用性。

ABSTRACT

Social media platforms are increasingly deploying complex interventions to help users detect false news. Labeling false news using techniques that combine crowd-sourcing with artificial intelligence (AI) offers a promising way to inform users about potentially low-quality information without censoring content, but also can be hard for users to understand. In this study, we examine how users respond in their sharing intentions to information they are provided about a hypothetical human-AI hybrid system. We ask i) if these warnings increase discernment in social media sharing intentions and ii) if explaining how the labeling system works can boost the effectiveness of the warnings. To do so, we conduct a study ($N=1473$ Americans) in which participants indicated their likelihood of sharing content. Participants were randomly assigned to a control, a treatment where false content was labeled, or a treatment where the warning labels came with an explanation of how they were generated. We find clear evidence that both treatments increase sharing discernment, and directional evidence that explanations increase the warnings' effectiveness. Interestingly, we do not find that the explanations increase self-reported trust in the warning labels, although we do find some evidence that participants found the warnings with the explanations to be more informative. Together, these results have important implications for designing and deploying transparent misinformation warning labels, and AI-mediated systems more broadly.

研究动机与目标

• 评估在AI-众包生成的虚假新闻预警中增加解释是否能提升用户区分真实与虚假内容的能力。
• 评估解释是否能提升用户对预警标签的信任，或仅增强其感知的信息量。
• 探索在高关注度、低信任度环境中，用户对混合人机虚假信息标注系统的心理反应机制。
• 解决在不依赖专家事实核查的前提下，部署透明、可扩展的虚假信息干预措施所面临的设计挑战。

提出的方法

• 通过随机在线调查，对1,473名美国参与者进行调查，评估其对虚假和真实新闻标题的分享意图。
• 将参与者分配至三种条件之一：对照组（无标签）、标签组（仅AI-众包预警）、解释组（附带混合人机标注流程说明的预警）。
• 采用假设的100%准确的标注系统，以隔离解释效果与标注准确性的相互影响。
• 收集用户对标签的自报信任度和感知信息量，以衡量解释的心理影响。
• 通过分析真实与虚假内容在分享意图上的差异，衡量辨别能力的提升。
• 控制政治立场和先前接触类似标签的经历，以隔离解释的独立影响。

实验结果

研究问题

• RQ1 使用AI-众包混合系统对虚假新闻进行标注，是否能提升用户在分享意图上的辨别能力？
• RQ2 对标注系统工作原理的解释是否能进一步提升预警标签的有效性？
• RQ3 解释是否能提升用户对预警标签的自报信任度？
• RQ4 即使未提升信任度，解释是否仍被认为更具信息量？
• RQ5 用户对标签来源（AI、众包、混合）的认知如何调节预警有效性的发挥？

主要发现

• 带有标签和解释的预警均显著提升了用户在分享意图上的辨别能力，降低了分享虚假新闻的可能性。
• 参与者认为解释性标签比无解释的标签更具信息量，尽管这并未转化为更高的自报信任度。
• 有方向性证据表明，解释提升了预警的有效性，但该效应未达到传统统计显著性水平。
• 尽管感知信息量提高，但信任度未上升，表明在AI中介的预警中，认知理解与情感信任之间可能存在分离。
• 结果表明，解释可能增强用户理解，但不一定会提升其对系统可靠性的信心。
• 研究结果支持混合人机系统在规模化虚假信息检测方面的潜力，但也凸显了设计有效、透明干预措施的复杂性。