[论文解读] What does the free energy principle tell us about the brain?

Samuel J. Gershman|arXiv (Cornell University)|Jan 23, 2019

Neuroscience, Education and Cognitive Function被引用 5

一句话总结

本文阐明了自由能原理（FEP）作为大脑功能的统一框架，表明在特定假设下，FEP可简化为贝叶斯推断、预测编码和主动推断。研究显示，只有当假设——如精确后验推断、确定性结果或效用与对数概率的对应关系——偏离标准模型时，FEP才会产生可证伪的独特预测，从而与其它理论形成可区分的实证差异。

ABSTRACT

The free energy principle has been proposed as a unifying account of brain function. It is closely related, and in some cases subsumes, earlier unifying ideas such as Bayesian inference, predictive coding, and active learning. This article clarifies these connections, teasing apart distinctive and shared predictions.

研究动机与目标

• 阐明自由能原理（FEP）的理论主张，并将其与贝叶斯推断、预测编码等相关理论区分开来。
• 识别FEP在何种特定假设下产生独特且可证伪的预测，而非仅是一个重言式原理。
• 通过剖析其假设并将其与可检验的神经与行为预测关联，评估FEP的实证可信度。
• 评估FEP在何种条件下偏离标准模型（如信息增益策略或贝叶斯决策理论）。
• 证明FEP的独特贡献仅在如精确推断或效用-对数概率对应关系等假设被违反时才会显现。

提出的方法

• 通过分析其核心组成部分——生成模型、变分推断和自由能最小化——来解构FEP。
• 通过贝叶斯公式 $ p(s|o) = \frac{p(o|s)p(s)}{p(o)} $ 将FEP与贝叶斯大脑假说进行比较，表明当变分族包含精确后验时二者等价。
• 将预测编码分析为FEP的特例，其产生依赖于对变分族的特定限制和特定优化方案。
• 通过期望自由能 $ \mathcal{G} $ 分析主动推断，将其与信息增益 $ \mathcal{I} $ 进行对比，尤其关注随机结果与确定性结果之间的差异。
• 应用规划即推断框架，将效用解释为对数先验概率 $ u(o) = \log p(o|\pi) $，将FEP与贝叶斯决策理论联系起来。
• 使用Kullback-Leibler散度 $ \mathcal{D}[p(s|o,\pi) \| p(s|\pi)] $ 形式化主动推断中的信息增益与认识价值。

实验结果

研究问题

• RQ1 在何种条件下，自由能原理的预测与贝叶斯大脑假说不同？
• RQ2 在何种假设下，预测编码可作为自由能原理的推论结果出现？
• RQ3 主动推断与纯信息增益策略有何不同，特别是在观测结果具有随机性时？
• RQ4 在何种情境下，FEP偏离标准贝叶斯决策理论，其经验含义是什么？
• RQ5 规划即推断对FEP的解释在多大程度上是贝叶斯决策理论的记号变体？在何种情况下会产生新颖预测？

主要发现

• 当变分族包含精确后验时，最小化自由能等价于精确贝叶斯推断，此时FEP在被动观测情境下与贝叶斯大脑假说无法区分。
• 预测编码仅在变分族受到特定限制且采用特定优化方案时才会出现，而非FEP的普遍结果。
• 在主动推断中，当后验为精确且结果为确定性时，FEP退化为信息增益策略；但当结果具有随机性时，FEP会诱导风险规避行为，这是信息增益本身无法捕捉的。
• 当效用被解释为对数先验概率时，FEP退化为规划即推断，即贝叶斯效用最大化的形式，其预测与标准贝叶斯决策理论无法区分。
• FEP仅在效用不对应于对数概率，或算法近似与神经实现方式与标准模型不同时，才会产生独特预测。
• 该理论的实证可检验性取决于对其底层假设的验证，如生成模型的结构、变分近似的质量以及行为-结果依赖关系的性质。