[论文解读] A Bayesian Model for False Information Belief Impact, Optimal Design, and Fake News Containment

Amin Khajehnejad, Shima Hajimirza|arXiv (Cornell University)|Mar 13, 2018

Misinformation and Its Impacts参考文献 25被引用 3

一句话总结

本文提出一个贝叶斯模型，用于分析虚假信息在多智能体网络中的传播及其对信念的影响，优化信息设计以实现与真相的最大信念一致性。该模型推导出一种平衡夸大与准确性的最优报告策略，并引入可信度过滤参数以控制虚假新闻的传播，展示了在不同网络策略下真相与虚假信息收敛之间的权衡。

ABSTRACT

This work is a technical approach to modeling false information nature, design, belief impact and containment in multi-agent networks. We present a Bayesian mathematical model for source information and viewer's belief, and how the former impacts the latter in a media (network) of broadcasters and viewers. Given the proposed model, we study how a particular information (true or false) can be optimally designed into a report, so that on average it conveys the most amount of the original intended information to the viewers of the network. Consequently, the model allows us to study susceptibility of a particular group of viewers to false information, as a function of statistical metrics of the their prior beliefs (e.g. bias, hesitation, open-mindedness, credibility assessment etc.). In addition, based on the same model we can study false information "containment" strategies imposed by network administrators. Specifically, we study a credibility assessment strategy, where every disseminated report must be within a certain distance of the truth. We study the trade-off between false and true information-belief convergence using this scheme which leads to ways for optimally deciding how truth sensitive an information dissemination network should operate.

研究动机与目标

• 使用贝叶斯概率建模网络媒体中虚假信息对观众信念的影响。
• 确定报告的最优设计，以最大化信念与目标来源信息（真实或虚假）的一致性。
• 研究网络层面的可信度评估策略如何在保留真实信息传播的同时遏制虚假信息。
• 量化在不同网络过滤参数下，虚假与真实信息信念收敛之间的权衡。
• 提供一个基于效用的框架，以优化网络认证策略，在真相敏感性与信息保真度之间取得平衡。

提出的方法

• 使用贝叶斯框架，将来源信息和观众信念建模为具有已知均值和协方差的高斯分布随机变量。
• 最优报告被推导为真实值、来源信息与受控夸大项的线性组合，以最大化信念一致性。
• 网络认证策略强制要求所有报告与真实值的距离不超过 ε，以建模可信度评估。
• 该模型分析了在不同观众先验信念（如偏见、开放性）下，真实与虚假来源的信念收敛情况。
• 通过多次实现计算统计指标，如平均信念和标准差，以评估收敛性能。
• 构建网络效用函数以优化过滤参数 ε，平衡真相敏感性与虚假信息遏制。

实验结果

研究问题

• RQ1 在多智能体网络中，报道者如何最优地设计报告，以最大化观众信念与目标来源信息的一致性？
• RQ2 观众先验信念（如偏见、迟疑）与对虚假信息的易感性之间存在何种关系？
• RQ3 可信度过滤器（ε）如何影响观众信念向真实与虚假信息收敛的过程？
• RQ4 网络过滤参数 ε 的最优值是什么，能够平衡虚假信息遏制与真实报告保真度？
• RQ5 在不同信念分布下，网络效用函数如何在真相收敛与虚假信息遏制之间进行权衡？

主要发现

• 最优报告是真实值、来源信息与受控夸大项的线性组合，能最大化与来源的信念一致性。
• 对于教育程度较低的受众（更接近虚假来源），当 ε 较大时，虚假信息可实现比真实信息更高的信念收敛，表明其易感性更高。
• 对于教育程度较高的受众（更接近真实来源），最优策略倾向于真实信息，且在所有 ε 值下，真实信息的收敛表现均优于虚假信息。
• 该模型清晰展示了权衡关系：增大 ε 虽可提升真实报道者的性能，但也增加了虚假信息有效传播的风险。
• 网络效用函数可实现 ε 的优化，以在真相敏感性与遏制之间取得平衡，数值示例显示在特定 β 和 d_min 值下可达到最优性能。
• 该模型揭示了观众信念动态对先验信念统计量（如偏见与可信度评估）高度敏感，这些量可被量化并用于预测易感性。