[论文解读] Misinformation Warning Labels: Twitter's Soft Moderation Effects on COVID-19 Vaccine Belief Echoes

Filipo Sharevski, Raniem Alsaadi+2 more|arXiv (Cornell University)|Apr 1, 2021

Misinformation and Its Impacts参考文献 33被引用 15

一句话总结

本研究探讨了Twitter通过警告封面和标签对新冠疫苗虚假信息实施的柔性内容审核，发现警告封面能降低虚假言论的可信度，而警告标签则无效。研究结果揭示了持续存在的‘信念回音’现象：用户对疫苗的既有信念及政治立场强烈影响其判断，从而削弱了标准警告标签的有效性。

ABSTRACT

Twitter, prompted by the rapid spread of alternative narratives, started actively warning users about the spread of COVID-19 misinformation. This form of soft moderation comes in two forms: as a warning cover before the Tweet is displayed to the user and as a warning tag below the Tweet. This study investigates how each of the soft moderation forms affects the perceived accuracy of COVID-19 vaccine misinformation on Twitter. The results suggest that the warning covers work, but not the tags, in reducing the perception of accuracy of COVID-19 vaccine misinformation on Twitter. "Belief echoes" do exist among Twitter users, unfettered by any warning labels, in relationship to the perceived safety and efficacy of the COVID-19 vaccine as well as the vaccination hesitancy for themselves and their children. The implications of these results are discussed in the context of usable security affordances for combating misinformation on social media.

研究动机与目标

• 评估Twitter的两种柔性内容审核形式——警告封面和警告标签——在降低新冠疫苗虚假信息可信度方面的有效性。
• 考察用户对疫苗安全、有效性及接种犹豫的既有信念如何影响其对虚假信息可信度的判断。
• 探究政治立场是否调节警告标签对虚假信息可信度判断的影响。
• 评估警告标签是否能打破或强化‘信念回音’——即社交媒体中偏见认知持续存在的现象。

提出的方法

• 通过Amazon Mechanical Turk开展在线实验，让参与者接触带有不同警告标签条件的Twitter风格新冠疫苗相关推文。
• 使用两条特定推文：一条传播未经证实的疫苗副作用（虚假信息），另一条引用美国疾控中心关于接种后副作用的指南（经核实信息）。
• 通过软件模拟警告封面（显示在推文之前）和警告标签（置于推文下方），以测试其对可信度判断的影响。
• 采用Biasio等人（2020）的问卷改编版，评估参与者对疫苗安全、有效性及接种意愿的信念。
• 收集政治立场数据，并通过统计分析检验信念、警告类型与可信度判断之间的交互作用。
• 控制2021年初Twitter实际存在的平台特定格式与标签措辞，因此结果在其他标签设计或平台上的推广性有限。

实验结果

研究问题

• RQ1 Twitter的警告封面和警告标签是否能降低新冠疫苗虚假信息的可信度？
• RQ2 个体对疫苗安全与有效性的既有信念在何种程度上影响其对虚假信息可信度的判断，即使存在警告标签？
• RQ3 政治立场在多大程度上调节警告标签降低虚假信息可信度判断的效果？
• RQ4 ‘信念回音’——即用户因确认偏误而将虚假信息视为可信——在应用警告标签后是否依然存在？
• RQ5 是否存在‘反效果’：警告标签是否反而使持怀疑态度的用户更相信虚假信息？

主要发现

• 警告封面显著降低了新冠疫苗虚假信息的可信度，表明事前视觉警告具有实际效果。
• 置于推文下方的警告标签对降低虚假信息可信度无显著影响，表明其无法有效改变用户判断。
• 对疫苗安全与有效性持怀疑态度的用户，即使看到警告封面，仍更倾向于将误导性推文评为可信，表明信念回音现象强烈存在。
• 与民主党人相比，倾向于表达疫苗怀疑态度的共和党人和独立人士，无论标签类型如何，对虚假信息的可信度判断均更高。
• 研究发现存在反效果：持有怀疑信念的用户在标签推文下的虚假信息可信度评分，反而高于未标注的推文，表明标签可能强化不信任感。
• 既有信念与政治立场与可信度判断高度一致，表明仅靠柔性审核无法克服根深蒂固的偏见或回音室效应。