[论文解读] Impact of Fake Agents on Information Cascades

Pawan Poojary, Randall Berry|arXiv (Cornell University)|May 12, 2020

Game Theory and Applications参考文献 21被引用 8

一句话总结

本文研究了虚假代理人（即理性行为者，始终采取固定行动以影响结果）在贝叶斯学习模型中对信息级联的影响。通过使用具有可数无限状态空间的马尔可夫链，本文表明，增加虚假代理人的比例可能反而降低其偏好的级联发生的可能性，同时显著提升所有理性代理人的福利，揭示了一种反直觉的均衡动态。

ABSTRACT

In online markets, agents often learn from other's actions in addition to their private information. Such observational learning can lead to herding or information cascades in which agents eventually ignore their private information and "follow the crowd". Models for such cascades have been well studied for Bayes-rational agents that arrive sequentially and choose pay-off optimal actions. This paper additionally considers the presence of fake agents that take a fixed action in order to influence subsequent rational agents towards their preferred action. We characterize how the fraction of such fake agents impacts the behavior of rational agents given a fixed quality of private information. Our model results in a Markov chain with a countably infinite state space, for which we give an iterative method to compute an agent's chances of herding and its welfare (expected pay-off). Our main result shows a counter-intuitive phenomenon: there exist infinitely many scenarios where an increase in the fraction of fake agents in fact reduces the chances of their preferred outcome. Moreover, this increase causes a significant improvement in the welfare of every rational agent. Hence, this increase is not only counter-productive for the fake agents but is also beneficial to the rational agents.

研究动机与目标

• 分析虚假代理人对顺序贝叶斯决策中信息级联形成的影响。
• 建立模型以研究虚假代理人比例对正确级联与错误级联概率，以及理性代理人期望收益的影响。
• 识别在何种条件下，增加虚假代理人数量会损害其自身目标，同时使理性代理人受益。
• 将模型推广至一般先验分布和零事前收益情形，确保其广泛应用性。

提出的方法

• 基于过去行动序列的充分统计量，将级联过程形式化为具有可数无限状态空间的马尔可夫链。
• 开发一种迭代算法，以任意精度计算级联概率与代理人福利，避免依赖闭式解。
• 利用贝叶斯更新与完美贝叶斯均衡（PBE）建模理性代理人基于私有信号与观测行动的最优行为。
• 应用布莱克韦尔定理，证明后续到达的代理人可获得更高福利，从而确立渐近福利极限。
• 通过重新定义阈值与收益结构，将结果推广至非均匀先验分布与零事前收益情形。
• 提出三种策略——增加、过滤与修改虚假行动——以改善学习结果，并分析其在不同虚假代理人比例下的有效性。

实验结果

研究问题

• RQ1 在贝叶斯信息级联模型中，增加虚假代理人比例如何影响其偏好的级联结果发生的概率？
• RQ2 在何种条件下，增加虚假代理人数量会导致其期望级联发生概率出现反直觉的下降？
• RQ3 虚假代理人的存在对理性代理人期望收益（福利）有何影响？其福利是否随虚假代理人数量增加而提升？
• RQ4 在虚假代理人存在的情况下，不同策略（增加、过滤或修改虚假行动）如何影响社会福利与学习效率？
• RQ5 该模型能否推广至一般先验分布与非零事前收益情形，同时保持关键分析结果不变？

主要发现

• 在虚假代理人比例 ǫ 的无穷多个阈值处，略微提高 ǫ 超过任一此类阈值，会降低虚假代理人偏好的级联发生的概率，这与直观预期相反。
• 尽管降低了自身成功概率，当 ǫ 超过任一此类阈值时，虚假代理人仍会引发理性代理人期望收益（福利）的显著且突兀的提升。
• 理性代理人的渐近福利随到达时间单调增加，当代理人的到达序号趋于无穷时，达到极限最大值。
• 当虚假代理人比例趋近于 1 时，即使虚假代理人占主导地位，理性代理人仍能实现非平凡的福利水平，尤其在采用最优数据库修改策略时表现更佳。
• 在高比例虚假代理人情形下，过滤虚假行动策略表现最佳；而在虚假代理人比例较低时，修改行动策略能带来最大福利提升，且在 ǫ → 0 时可完全消除其对福利的负面影响。
• 结果可推广至一般先验分布与零事前收益情形，仅福利方程中的常数项发生变化，核心动态与反直觉现象得以保持。