[论文解读] Incentivizing the Dissemination of Truth Versus Fake News in Social Networks

Abbas Ehsanfar, Mo Mansouri|arXiv (Cornell University)|Apr 7, 2018

Opinion Dynamics and Social Influence参考文献 2被引用 3

一句话总结

本文将社交网络中真相与虚假新闻的传播建模为志愿者困境，其中用户集体参与新闻验证。研究证明，通过新闻订阅实现的共享奖励可激励用户传播真实信息，从而通过将个人激励与网络系统中的集体求真目标对齐，减少虚假新闻的主导地位。

ABSTRACT

The concept of truth, as a public good is the production of a collective understanding, which emerges from a complex network of social interactions. The recent impact of social networks on shaping the perception of truth in political arena shows how such perception is corroborated and established by the online users, collectively. However, investigative journalism for discovering truth is a costly option, given the vast spectrum of online information. In some cases, both journalist and online users choose not to investigate the authenticity of the news they receive, because they assume other actors of the network had carried the cost of validation. Therefore, the new phenomenon of "fake news" has emerged within the context of social networks. The online social networks, similarly to System of Systems, cause emergent properties, which makes authentication processes difficult, given availability of multiple sources. In this study, we show how this conflict can be modeled as a volunteer's dilemma. We also show how the public contribution through news subscription (shared rewards) can impact the dominance of truth over fake news in the network.

研究动机与目标

• 为应对社交网络中虚假新闻泛滥的问题，其中用户往往因依赖他人努力而未能验证信息。
• 分析在去中心化信任的网络环境中，新闻集体验证如何作为公共品出现。
• 研究共享奖励（如订阅）在激励用户验证并传播真实内容方面的作用。
• 将真相与虚假新闻传播的动力学建模为受个体激励影响的系统级涌现行为。
• 评估系统设计——尤其是奖励共享机制——如何引导网络行为朝向说真话的方向发展。

提出的方法

• 将问题建模为志愿者困境，其中每个用户决定是否投入精力验证新闻，或依赖他人。
• 引入共享奖励机制，订阅用户共同资助验证工作，并将收益在贡献者之间分配。
• 使用博弈论建模分析具有异质用户激励的网络中的均衡行为。
• 通过模拟不同奖励共享结构对真相传播的影响，分析网络层面的结果。
• 应用系统集成（SoS）工程原则，理解互连社交网络中的涌现行为。
• 使用分析与基于仿真的方法，评估不同激励结构下真相与虚假新闻的稳定性及主导性。

实验结果

研究问题

• RQ1 志愿者困境框架如何解释社交网络中用户未能验证新闻的原因？
• RQ2 共享奖励在激励用户验证并传播真实信息方面发挥什么作用？
• RQ3 在何种条件下，真实内容会在网络环境中主导虚假新闻？
• RQ4 网络结构与奖励共享机制如何影响集体求真行为的出现？
• RQ5 是否可以设计系统级激励，以减少搭便车行为并增加已验证信息的传播？

主要发现

• 志愿者困境框架准确捕捉了用户因依赖他人努力而缺乏验证新闻动力的现象。
• 通过新闻订阅实现的共享奖励显著提高了真实内容相对于虚假新闻的传播可能性。
• 当验证成本被分担且用户感知到对其验证努力的公平回报时，网络范围内的真相主导地位会自然出现。
• 模型表明，即使共享奖励水平适中，也能促使均衡行为向更高的验证率转变。
• 系统级激励，尤其是当与集体利益对齐时，可抵消虚假新闻传播的自然趋势。
• 通过战略性奖励设计，即使在去中心化系统中，也能引导社交网络中的涌现行为（如真相传播）向有利方向发展。