[论文解读] The Backwards Arrow of Time of the Coherently Bayesian Statistical Mechanic

Cosma Rohilla Shalizi|arXiv (Cornell University)|Oct 4, 2004

Statistical Mechanics and Entropy参考文献 13被引用 4

一句话总结

本文表明，将贝叶斯概率更新与热力学熵被识别为信息论不确定性相结合，会导致时间之箭倒转，与热力学第二定律相矛盾。关键结果是，在标准假设下，熵平均而言会减少，这迫使人们在拒绝物理动力学、推理不一致，或放弃热力学熵与贝叶斯熵等价性之间做出选择。

ABSTRACT

Many physicists think that the maximum entropy formalism is a straightforward application of Bayesian statistical ideas to statistical mechanics. Some even say that statistical mechanics is just the general Bayesian logic of inductive inference applied to large mechanical systems. This approach identifies thermodynamic entropy with the information-theoretic uncertainty of an (ideal) observer's subjective distribution over a system's microstates. In this brief note, I show that this postulate, plus the standard Bayesian procedure for updating probabilities, implies that the entropy of a classical system is monotonically non-increasing on the average -- the Bayesian statistical mechanic's arrow of time points backwards. Avoiding this unphysical conclusion requires rejecting the ordinary equations of motion, or practicing an incoherent form of statistical inference, or rejecting the identification of uncertainty and thermodynamic entropy.

研究动机与目标

• 研究贝叶斯统计力学解释与热力学第二定律的一致性。
• 识别当热力学熵被等同于主观不确定性时，导致非物理时间之箭倒转的根源。
• 评估最大熵原理或贝叶斯更新是否能保持正确的热力学时间之箭。
• 确定可逆动力学、贝叶斯更新和熵作为不确定性的标准假设能否在物理理论中一致共存。

提出的方法

• 假设相空间上存在一个可逆演化算子 T，用于建模确定性经典动力学。
• 通过贝叶斯法则应用贝叶斯更新，以更新对微观态的主观概率分布。
• 将热力学熵 S_t 与观察者主观分布的香农熵 H[F_t] 等同。
• 使用库普曼算子 U 表示可观测量的时间演化，将分布演化与可观测量变化联系起来。
• 将最大熵原理应用于多个时间点的约束，表明其同样导致熵减少。
• 分析贝叶斯更新下熵的长期行为，表明熵的平均值随时间非增。

实验结果

研究问题

• RQ1 在熵被视为主观不确定性的标准贝叶斯统计力学方法下，是否能导致一致的热力学时间之箭？
• RQ2 当在可逆动力学和熵-不确定性识别下，通过贝叶斯法则对系统进行更新时，其熵会发生什么变化？
• RQ3 在存在时间约束的系统中，是否可以一致地应用最大熵原理而不导致时间之箭倒转？
• RQ4 是否可能在保持贝叶斯框架的同时，满足熵随时间增加的物理要求？
• RQ5 在贝叶斯统计力学框架中，若拒绝将热力学熵与信息论熵等同，会产生什么后果？

主要发现

• 在标准假设下——可逆动力学、贝叶斯更新和熵作为主观不确定性——系统的平均熵随时间非增，意味着时间之箭倒转。
• 当应用于多个时间点的约束时，最大熵原理同样导致熵减少，即使应用过程是一致的。
• 避免时间之箭倒转的唯一方法是拒绝将热力学熵与观察者分布的香农熵等同。
• 拒绝贝叶斯更新或最大熵原理将导致统计推理不一致，因为它需要选择性地忽略历史数据。
• 该结果表明，计算能力有限的观察者可能因忽略过去数据而错误地推断熵减少，类似于麦克斯韦妖。
• 本文结论认为，拒绝假设 III（熵 = 不确定性）是保持物理时间之箭的最合理路径。