[论文解读] Control flow in active inference systems

Chris Fields, Filippo Fabrocini+5 more|arXiv (Cornell University)|Feb 25, 2023

Neural dynamics and brain function被引用 5

一句话总结

本文证明，受自由能原理支配的主动推理系统中的控制流，可始终以张量网络（TN）形式表示，为从细胞到大脑的生物尺度提供上下文敏感决策的通用形式化框架。它展示了拓扑量子神经网络（TQNN）如何实现基于张量网络的控制体系，从而在细胞到大脑的系统中实现可扩展、分层且鲁棒的推理。

ABSTRACT

Living systems face both environmental complexity and limited access to free-energy resources. Survival under these conditions requires a control system that can activate, or deploy, available perception and action resources in a context specific way. We show here that when systems are described as executing active inference driven by the free-energy principle (and hence can be considered Bayesian prediction-error minimizers), their control flow systems can always be represented as tensor networks (TNs). We show how TNs as control systems can be implmented within the general framework of quantum topological neural networks, and discuss the implications of these results for modeling biological systems at multiple scales.

研究动机与目标

• 将受自由能原理支配的主动推理系统中上下文敏感控制流问题形式化。
• 通过张量网络（TN）在生物尺度上建立控制流的通用数学表示。
• 展示拓扑量子神经网络（TQNN）如何实现基于张量网络的控制体系，以支持自适应、分层推理。
• 通过无尺度贝叶斯框架统一描述生物系统的物理、认知与计算层面。

提出的方法

• 通过三种互补框架形式化控制流：吸引子图像、量子参考系（QRF）图像与拓扑量子场论（TQFT）图像。
• 利用全息对偶性与变分自由能最小化，将控制流表示为张量网络（TN）。
• 在拓扑量子神经网络（TQNN）的一般架构内实现TN，以模拟分层、上下文依赖的推理。
• 将几何重整化群（RG）流应用于TQNN与TN，以捕捉尺度不变的动力学与信息处理。
• 使用TN作为分类器，建模主动推理中的策略选择，其中内部状态编码对环境成因的后验信念。
• 将标准机器学习架构（如Transformer、CNN）作为基于TN的控制体系的特例进行推广。

Figure 1: Cartoon illustration of QRFs required to observe and write a readable memory of an environmental state $|E\rangle$ . The QRFs $\mathbf{E}$ and $\mathbf{Y}$ read the state from $E$ and write it to the memory $Y$ respectively. Any identified system $S$ must be part of $E$ . The clock $\mathc

实验结果

研究问题

• RQ1 无论生物尺度或复杂性如何，主动推理系统中的控制流是否可普遍以张量网络表示？
• RQ2 张量网络如何在拓扑量子神经网络（TQNN）框架内实现，以模拟自适应、上下文敏感的行为？
• RQ3 几何重整化群（RG）流在实现基于TN的推理系统中尺度不变控制方面发挥何种作用？
• RQ4 在主动推理与自由能最小化背景下，TN如何推广现有深度学习架构？
• RQ5 张量网络在何种方式下提供一种形式化、统一的语言，用于建模从大分子通路到多生物体群体的控制？

主要发现

• 主动推理系统中的控制流可普遍表示为张量网络（TN），为上下文敏感决策提供形式化、无尺度的框架。
• 张量网络可在拓扑量子神经网络（TQNN）中实现，从而实现对推理与策略选择的几何与拓扑描述。
• 在TN与TQNN中使用几何重整化群（RG）流，揭示了与生物信息处理一致的分层、尺度不变动力学。
• 标准机器学习架构（如Transformer与卷积网络）在主动推理框架下，被证明是基于TN的控制体系的特例。
• 该框架通过在TN结构中编码记忆、注意力与预测，支持从细胞信号传导到集体形态发生等尺度的生物控制统一描述。
• 结果表明，生物系统中的通信（包括信息素与细胞间信号传导）可被理解为一种由基于TN的推理所介导的预测性、类语言交互。