[论文解读] Can Society Function Without Ethical Agents? An Informational Perspective

Bruno Strulovici|arXiv (Cornell University)|Mar 11, 2020

Game Theory and Applications参考文献 16被引用 8

一句话总结

本文研究在信息验证成本高昂且易受操纵的背景下，社会能否通过缺乏内在道德动机的中介者实现准确的集体学习。基于顺序证据累积的信息模型表明，除非达到证据持续性的阈值水平（即信息衰减），否则信息性沟通将崩溃，这意味着在脆弱的信息环境中，伦理中介者对于可靠的中介学习至关重要。

ABSTRACT

Many facts are learned through the intermediation of individuals with special access to information, such as law enforcement officers, officials with a security clearance, or experts with specific knowledge. This paper considers whether societies can learn about such facts when information is cheap to manipulate, produced sequentially, and these individuals are devoid of ethical motive. The answer depends on an "information attrition" condition pertaining to the amount of evidence available which distinguishes, for example, between reproducible scientific evidence and the evidence generated in a crime. Applications to institution enforcement, social cohesion, scientific progress, and historical revisionism are discussed.

研究动机与目标

• 确定当中介者缺乏道德动机时，公众依赖中介者获取事实的中介学习是否能够成功。
• 分析在可操纵证据的顺序信息环境中，真实沟通出现的条件。
• 将“信息衰减”概念形式化，作为在缺乏道德激励下真实信号是否可持续的关键决定因素。
• 评估该框架对科学诚信、制度执行、历史准确性和社会凝聚力的影响。
• 建立正式条件，以证明即使中介者非道德且仅受激励驱动，信息性均衡依然存在。

提出的方法

• 构建一个顺序信息环境模型，其中中介者（如调查人员、目击者）接收到关于某一事实的私人信号，并向公众发送信息。
• 引入“信息衰减”概念——即关于某一事实的证据随时间推移而减少或变得不可验证的速率，由证据的存活概率来衡量。
• 使用递归结构来建模关于证据强度信念的演变，中介者根据先前信号和信息内容进行更新。
• 应用博弈论均衡分析，表明只有当未来证据的概率（F）超过临界阈值时，信息性消息才能持续。
• 通过信号数量（k）的归纳法，证明信息性均衡要求在每个阶段都达到最低水平的证据持续性。
• 推导出压缩映射论证，表明当F足够低时，信息性消息的概率必须为零，意味着真实沟通的崩溃。

实验结果

研究问题

• RQ1 在顺序性、基于证据的学习环境中，非道德中介者在何种条件下能够传递真实信息？
• RQ2 证据的持续性（信息衰减）如何影响中介学习中信息性均衡的可持续性？
• RQ3 如果关键中介者缺乏道德动机，仅受激励驱动，制度或科学过程能否可靠运行？
• RQ4 在中介者非道德的情况下，顺序信号的数量（如目击者、测试）在维系真实沟通中起什么作用？
• RQ5 是否存在一个证据持续性的阈值水平，低于该水平时，无论激励如何，真实信号都变得不可能？

主要发现

• 当未来证据概率（F）低于临界阈值$\hat{F}^1 > 0$时，信息性均衡不可能存在，意味着若证据无法持续，真实沟通将崩溃。
• 对于任意F ≤ $\hat{F}^1$，信息性消息的发送概率为零，无论激励结构如何，这是由于消息概率函数上的压缩映射论证。
• 信息性均衡的存在取决于多个阶段中证据持续性的乘积：对于k+1个信号，阈值$\hat{F}^{k+1}$受乘积$\hat{F}^k \cdot \hat{F}^1$的限制，表明真实信号的可行性呈指数衰减。
• 该模型表明，即使激励强烈，若证据过于脆弱或易丢失，真实沟通仍会失败，凸显了伦理中介者在维护信息完整性方面的必要性。
• 该结果意味着在科学、法律或历史等依赖顺序验证的领域，若缺乏足够的证据持续性，非道德中介者无法维持可靠的知识传递。
• 本文建立了信息衰减与中介学习可行性之间的正式联系，表明伦理动机不仅是规范性理想，更是脆弱信息环境中的一种结构性必要条件。