[论文解读] Mutual Hyperlinking Among Misinformation Peddlers

Vibhor Sehgal, Ankit Peshin+2 more|arXiv (Cornell University)|Apr 20, 2021

Misinformation and Its Impacts参考文献 36被引用 9

一句话总结

本文提出一种基于领域级别的方法，通过分析网站之间的相互超链接模式以及Twitter用户的内容分享行为，识别并降低虚假信息传播者的推荐权重。研究发现，虚假信息领域形成高度互联的集群，且与可信领域之间的链接极少；同时，某些用户持续放大这些网络，从而实现对虚假信息网络的检测，并可能在推荐系统中予以降权。

ABSTRACT

The internet promised to democratize access to knowledge and make the world more open and understanding. The reality of today's internet, however, is far from this ideal. Misinformation, lies, and conspiracies dominate many social media platforms. This toxic online world has had real-world implications ranging from genocide to, election interference, and threats to global public health. A frustrated public and impatient government regulators are calling for a more vigorous response to mis- and disinformation campaigns designed to sow civil unrest and inspire violence against individuals, societies, and democracies. We describe a large-scale, domain-level analysis that reveals seemingly coordinated efforts between multiple domains to spread and amplify misinformation. We also describe how the hyperlinks shared by certain Twitter users can be used to surface problematic domains. These analyses can be used by search engines and social media recommendation algorithms to systematically discover and demote misinformation peddlers.

研究动机与目标

• 应对社交媒体算法被利用以传播谎言和阴谋论的协调性虚假信息传播活动日益增长的威胁。
• 开发可扩展的、基于领域的检测技术，以补充在大规模场景下无效的逐条内容事实核查。
• 识别超链接网络中的结构性模式，以区分虚假信息领域与可信信息领域。
• 发现系统性地分享虚假信息领域链接的‘超级传播者’Twitter用户。
• 为搜索引擎和推荐算法提供工具，基于结构和行为信号对整个虚假信息网络实施降权。

提出的方法

• 通过分析域名之间的相互超链接，构建基于领域的超链接网络，使用Jaccard相似度阈值1%来定义连接关系。
• 从Twitter用户数据构建社交媒体链接分享网络，其中边表示同一用户在不同域名之间分享链接。
• 应用社区检测算法，识别内部连接度高的域名集群，特别是由虚假信息领域主导的集群。
• 训练二分类器，基于超链接模式和Twitter用户参与度指标，预测某一域名是否为虚假信息领域。
• 采用基于阈值的方法，识别频繁分享多个虚假信息领域链接的‘超级传播者’用户。
• 利用识别出的结构和行为模式，向推荐系统推荐对整个虚假信息网络进行降权。

实验结果

研究问题

• RQ1 虚假信息领域是否表现出显著高于其与信息类领域之间链接的相互超链接？
• RQ2 一个域名的超链接结构能否有效预测其为虚假信息传播者的可能性？
• RQ3 是否存在特定的Twitter用户，其持续频繁地分享多个虚假信息领域链接，表现出超级传播者行为？
• RQ4 结合超链接模式与社交媒体分享行为，能否训练出有效识别虚假信息领域的分类器？
• RQ5 虚假信息网络在多大程度上形成紧密、孤立的社区，且与更广泛的网络明显分离？

主要发现

• 虚假信息领域表现出显著更强的相互超链接，最大规模的131个域名社区中89.3%为虚假信息领域，46个域名社区中91.3%为虚假信息领域。
• 虚假信息领域平均拥有7.55条内部连接，而外部连接仅1.57条；信息类领域则分别为1.00和0.86条。
• 一个由14个气候变化否认论领域组成的社区（包括wattsupwiththat.com）形成高度互联的网络，其中13个为虚假信息领域。
• 某些Twitter用户表现出可预测的、高频次地分享多个虚假信息领域链接的行为，表明其具有超级传播者特征。
• 仅依靠超链接结构即可高精度预测虚假信息状态，实现无需逐条分析的可扩展检测。
• 研究揭示了虚假信息与信息类领域之间清晰的结构性分野，虚假信息网络形成孤立且自我强化的集群。