[论文解读] A technical critique of the free energy principle as presented in "Life as we know it" and related works

Martin Biehl, Felix A. Pollock+1 more|arXiv (Cornell University)|Jan 12, 2020

Statistical Mechanics and Entropy参考文献 15被引用 10

一句话总结

本文批判性地审视了 Friston（2013）及相关著作中提出的自由能原理（FEP），指出了从马尔可夫毯推导贝叶斯推断过程中的三个形式错误。研究证明，变分条件密度与遍历条件密度之间的所谓等价性在一般情况下并不成立，从而动摇了将自证系统解释为执行贝叶斯推断的核心观点。

ABSTRACT

We summarize the argument in Friston (2013, https://doi.org/10.1098/rsif.2013.0475) and highlight some technical errors. We also discuss how these errors affect the very similar Friston (2014, https://doi.org/10.1109/JPROC.2014.2306251) and, where appropriate, mention consequences for the newer proposals in Friston (2019, arXiv:1906.10184v1 ) and Parr et al. (2019, https://royalsocietypublishing.org/doi/full/10.1098/rsta.2019.0159). The errors call into question the purported interpretation that the internal coordinates of every system with a Markov blanket will appear to engage in Bayesian inference. In particular, in addition to highlighting the implicit restriction to linear models, we identify three formal errors in the main argument of Friston (2013): The first concerns the rewriting of the equations of motion of systems with Markov blankets which turns out not to be generally correct. We prove the non-equivalence with a counterexample that exhibits a Markov blanket but does not satisfy the rewritten equations. Our counterexample also invalidates the corresponding (but more general) rewritten equations in the more recent Friston (2019). The second error concerns the Free Energy Lemma itself, which we prove, by counterexample, to be wrong in general. The third is the claim that the Free Energy Lemma, when it does hold, implies equality of variational density and ergodic conditional density. The interpretation in terms of Bayesian inference hinges on this point, and we hence conclude that it is unjustified. Additionally, we highlight that the definitions of the Markov blanket in Friston (2013) and Parr et al. (2019) are not equivalent and that the assumptions in Parr et al. (2019) may be too strong to allow for meaningful interpretation.

研究动机与目标

• 识别并修正 Friston（2013）中提出的自由能原理推导过程中的技术缺陷。
• 评估自由能引理的有效性及其对具有马尔可夫毯系统的贝叶斯推断的含义。
• 评估 Friston（2013）、Friston（2019）与 Parr 等人（2019）中马尔可夫毯定义的一致性与普遍性。
• 确定变分密度与遍历条件密度之间声称的等价性在数学上是否成立。

提出的方法

• 构造一个具有马尔可夫毯的系统反例，证明其方程运动重写形式在一般情况下不等价。
• 通过构造一个反例，证明自由能引理在一般情况下不成立，即在引理条件满足但结论不成立的情况下。
• 分析变分密度与遍历条件密度之间声称的等价性，表明该等价性无法从引理中推出。
• 比较 Friston（2013）与 Parr 等人（2019）中马尔可夫毯的定义，揭示其不等价性及潜在的过度约束假设。
• 将批判扩展至 Friston（2019）与 Parr 等人（2019），表明相同错误在新形式中依然存在。
• 运用形式数学推理，证明自由能原理所依赖的假设无法支持一般系统中贝叶斯推断的解释。

实验结果

研究问题

• RQ1 具有马尔可夫毯的系统是否普遍适用方程运动的重写形式，还是存在其不成立的反例？
• RQ2 自由能引理在一般情况下是否有效，是否存在其不成立的情形？
• RQ3 在一般条件下，自由能引理是否意味着变分密度与遍历条件密度相等？
• RQ4 Friston（2013）与 Parr 等人（2019）中马尔可夫毯的定义是否等价，还是存在关键差异？
• RQ5 FEP 推导中的形式错误是否削弱了所有具有马尔可夫毯的系统均执行贝叶斯推断这一主张？

主要发现

• 构造了一个具有马尔可夫毯但不满足重写后运动方程的反例，从而否定了该变换的一般有效性。
• 通过反例证明自由能引理在一般情况下不成立，即在引理条件满足但结论不成立的情况下。
• 变分密度与遍历条件密度之间声称的等价性无法从引理中推出，从而动摇了 FEP 的贝叶斯解释。
• Friston（2013）与 Parr 等人（2019）中马尔可夫毯的定义并不等价，后者施加了更强的假设，可能限制其适用范围。
• Friston（2013）中识别出的错误同样使 Friston（2019）中的对应方程失效，从而对 FEP 框架的普遍性提出质疑。