[论文解读] Combating Health Misinformation in Social Media: Characterization, Detection, Intervention, and Open Issues

Canyu Chen, Haoran Wang+4 more|arXiv (Cornell University)|Nov 10, 2022

Misinformation and Its Impacts被引用 9

一句话总结

本综述对社交媒体上的健康错误信息进行了全面且跨学科的回顾，系统性地将研究组织为特征分析、检测与干预三个部分。它识别出关键挑战，如对公共健康的危害、检测难度以及健康不平等，并为通过技术、社会和政策驱动的解决方案来应对错误信息提出了未来研究方向。

ABSTRACT

Social media has been one of the main information consumption sources for the public, allowing people to seek and spread information more quickly and easily. However, the rise of various social media platforms also enables the proliferation of online misinformation. In particular, misinformation in the health domain has significant impacts on our society such as the COVID-19 infodemic. Therefore, health misinformation in social media has become an emerging research direction that attracts increasing attention from researchers of different disciplines. Compared to misinformation in other domains, the key differences of health misinformation include the potential of causing actual harm to humans' bodies and even lives, the hardness to identify for normal people, and the deep connection with medical science. In addition, health misinformation on social media has distinct characteristics from conventional channels such as television on multiple dimensions including the generation, dissemination, and consumption paradigms. Because of the uniqueness and importance of combating health misinformation in social media, we conduct this survey to further facilitate interdisciplinary research on this problem. In this survey, we present a comprehensive review of existing research about online health misinformation in different disciplines. Furthermore, we also systematically organize the related literature from three perspectives: characterization, detection, and intervention. Lastly, we conduct a deep discussion on the pressing open issues of combating health misinformation in social media and provide future directions for multidisciplinary researchers.

研究动机与目标

• 为应对社交媒体上传播的健康错误信息日益增长的威胁，此类信息直接危及公共健康并可能导致有害行为。
• 分析健康错误信息相较于其他领域（如政治或娱乐）错误信息的独特特征，例如其可能导致身体伤害的潜力以及对医学专业知识的依赖。
• 将跨学科的现有研究系统化为三个核心阶段：特征分析、检测与干预。
• 突出关键的开放性问题，包括健康不平等、人工智能偏见以及当前干预措施的有效性。
• 通过识别研究空白并提出可操作的研究方向，为未来多学科研究提供指导。

提出的方法

• 在计算机科学、公共卫生和社会科学领域开展系统性文献综述，以绘制健康错误信息研究的全景图。
• 将检测方法划分为六类：健康内容分析、用户参与度建模、社交结构分析、生物医学知识整合、多模态分析以及跨领域方法利用。
• 在三个层面分析干预策略：政府政策、组织行动（如平台内容审核）以及个体层面的努力（如媒体素养教育）。
• 研究传播模式与影响策略，包括协调一致的机器人活动和情绪操纵。
• 评估人工智能在检测错误信息的同时，也可能加剧错误信息传播的作用，特别是在边缘化群体中。
• 综合现有数据集与工具，以支持健康错误信息检测与缓解研究的可复现性。

实验结果

研究问题

• RQ1 社交媒体上传播的健康错误信息的主要成因、影响及传播模式是什么？
• RQ2 健康错误信息的特征与政治或娱乐等领域中的错误信息有何不同？
• RQ3 在不同模态和平台中，检测健康错误信息的最有效技术与社会策略是什么？
• RQ4 当前的干预措施在减轻错误信息传播的同时，对代表性不足或边缘化群体是否会造成伤害？
• RQ5 健康错误信息如何导致或加剧现有的健康不平等？人工智能在这一动态中扮演什么角色？

主要发现

• 健康错误信息因其直接导致身体伤害的潜在风险而尤为危险，例如曾有推广漂白剂作为新冠治疗手段的案例。
• 社会经济地位较低的个体更可能接受健康错误信息，从而加剧健康不平等并导致高风险行为。
• 整合生物医学知识与多模态信号（如文本、图像、视频）的检测模型，其准确率高于仅依赖语言特征或参与度特征的模型。
• 若未对偏见进行仔细审计，基于人工智能的干预措施可能加剧健康不平等，特别是在代表性不足的社区中。
• 当前平台层面的干预措施（如内容警告和事实核查）效果参差不齐，且缺乏对真实世界传播结果的稳健评估。
• 目前严重缺乏将健康错误信息与已记录的健康不平等问题（尤其是少数族裔和资源匮乏人群）联系起来的研究。