[论文解读] A Technical Critique of Some Parts of the Free Energy Principle

Martin Biehl, Felix A. Pollock+1 more|arXiv (Cornell University)|Jan 12, 2020

Advanced Thermodynamics and Statistical Mechanics参考文献 16被引用 4

一句话总结

本文批判性地审视了自由能原理原始表述中的技术缺陷，尤其聚焦于自由能引理的推导以及马尔可夫毯的作用。通过反例证明，该引理在缺乏未明示假设的情况下不成立；揭示了文献中马尔可夫毯定义的不一致性；并表明贝叶斯推断解释依赖于变分密度与遍历密度之间未经证实的等式关系。

ABSTRACT

We summarize the original formulation of the free energy principle, and highlight some technical issues. We discuss how these issues affect related results involving generalised coordinates and, where appropriate, mention consequences for and reveal, up to now unacknowledged, differences to newer formulations of the free energy principle. In particular, we reveal that various definitions of the "Markov blanket" proposed in different works are not equivalent. We show that crucial steps in the free energy argument which involve rewriting the equations of motion of systems with Markov blankets, are not generally correct without additional (previously unstated) assumptions. We prove by counterexample that the original free energy lemma, when taken at face value, is wrong. We show further that this free energy lemma, when it does hold, implies equality of variational density and ergodic conditional density. The interpretation in terms of Bayesian inference hinges on this point, and we hence conclude that it is not sufficiently justified. Additionally, we highlight that the variational densities presented in newer formulations of the free energy principle and lemma are parameterised by different variables than in older works, leading to a substantially different interpretation of the theory. Note that we only highlight some specific problems in the discussed publications. These problems do not rule out conclusively that the general ideas behind the free energy principle are worth pursuing.

研究动机与目标

• 识别并揭露自由能原理原始表述中的技术缺陷，特别是自由能引理推导过程中的问题。
• 阐明不同文献中“马尔可夫毯”定义之间的不一致性，证明其并非等价。
• 证明内部动力学表现如贝叶斯推断的论断，由于引理中存在未经证实的假设，无法严格成立。
• 强调新近表述中对变分密度采用不同的参数化方式，导致该原理的理论解释发生根本性改变。
• 评估这些问题对“具有马尔可夫毯的系统必然执行主动贝叶斯推断”这一广泛主张的影响。

提出的方法

• 逐步重构[6]中的原始论证，识别自由能引理推导过程中存在的逻辑与数学漏洞。
• 构造自由能引理的反例，证明其在无附加假设下一般不成立。
• 分析向量场动力学与负遍历对数密度梯度之间的关系，表明所需重写在无额外约束条件下无效。
• 比较两种不同的马尔可夫毯表述：一种基于动力学依赖性（条件1），另一种基于遍历密度的统计因子分解（条件2），揭示二者不等价。
• 考察噪声结构（高斯、δ-相关）的作用，表明标准推导依赖于原始工作中未明确说明的假设。
• 利用系统的无限维推广来测试引理的鲁棒性，发现当系统非马尔可夫或非高斯时，该论证即告失效。

实验结果

研究问题

• RQ1 在原始表述中，自由能引理是否在无额外未明示假设的情况下数学上成立？
• RQ2 不同文献中使用的马尔可夫毯定义——特别是基于动力学依赖性与基于统计因子分解的定义——是否等价？
• RQ3 声称内部动力学执行主动贝叶斯推断的论断，是否能从原始表述中逻辑推出，还是因技术缺陷而被削弱？
• RQ4 旧版与新版表述中变分密度参数化的差异，如何影响自由能原理的解释？
• RQ5 变分密度与遍历条件密度相等的条件是什么？为何这一条件对贝叶斯推断解释至关重要？

主要发现

• 如原始表述中所陈述，自由能引理在缺乏额外假设时是错误的，反例已证明其不成立。
• 变分密度与遍历条件密度之间的等式——这是贝叶斯推断解释的核心——一般并不成立，且依赖于未经证实的假设。
• 条件1（基于动力学依赖性）与条件2（基于统计因子分解）中的马尔可夫毯定义并不等价，且先前研究未建立二者之间的关系。
• 声称内部坐标执行主动贝叶斯推断的论断，依赖于自由能引理，而该引理在一般情况下不成立，因此动摇了原始论文的核心主张。
• 新近表述对变分密度采用与旧作不同的变量进行参数化，导致该原理的理论解释发生根本性改变。
• 从遍历密度推导梯度动力学的标准推导假设噪声为δ-相关；若无此假设，所声称的方程重写无法成立。