[論文レビュー] Control flow in active inference systems

Chris Fields, Filippo Fabrocini+5 more|arXiv (Cornell University)|Feb 25, 2023

Neural dynamics and brain function被引用数 5

ひとこと要約

本稿は、自由エネルギー原理に従って制御フローが支配されるアクティブインファレンスシステムにおける制御フローが、常にテンソルネットワーク（TNs）として表現可能であることを示しており、生物学的スケールにわたる文脈感受性の高い意思決定のための普遍的枠組みを提供する。また、トポロジカル量子ニューラルネットワーク（TQNNs）が、これらのTNベースの制御システムを実装可能であることを示し、細胞から脳に至るまでスケーラブルで階層的かつ頑健な推論を実現可能であることを示している。

ABSTRACT

Living systems face both environmental complexity and limited access to free-energy resources. Survival under these conditions requires a control system that can activate, or deploy, available perception and action resources in a context specific way. We show here that when systems are described as executing active inference driven by the free-energy principle (and hence can be considered Bayesian prediction-error minimizers), their control flow systems can always be represented as tensor networks (TNs). We show how TNs as control systems can be implmented within the general framework of quantum topological neural networks, and discuss the implications of these results for modeling biological systems at multiple scales.

研究の動機と目的

• 自由エネルギー原理に従って制御されるアクティブインファレンスシステムにおける文脈感受性の高い制御フローの問題を形式化すること。
• 生物学的スケールにわたる制御フローの普遍的数学的表現をテンソルネットワーク（TNs）を用いて確立すること。
• トポロジカル量子ニューラルネットワーク（TQNNs）がTNベースの制御システムをどのように実装できるかを示し、適応的で階層的な推論を可能にすること。
• スケールフリーでベイズ的な枠組みを通じて、物理的・認知的・計算的記述を統合すること。

提案手法

• アトラクタ像、量子参照枠（QRF）像、トポロジカル量子場理論（TQFT）像の3つの補完的枠組みを用いて制御フローを形式化する。
• ホログラフィー双対性と変分的自由エネルギー最小化を活用して、制御フローをテンソルネットワーク（TNs）として表現する。
• 階層的かつ文脈依存的な推論をモデル化するため、トポロジカル量子ニューラルネットワーク（TQNNs）の一般的アーキテクチャ内にTNを実装する。
• スケール不変なダイナミクスと情報処理を捉えるために、TQNNsおよびTNsに幾何的レノルミゼーション群（RG）フローを適用する。
• TNを分類器として用いて、アクティブインファレンスにおける方策選択をモデル化し、内部状態が環境要因の事後分布を符号化することを示す。
• 標準的な機械学習アーキテクチャ（例：トランスフォーマー、CNN）を、TNベースの制御システムの特別なケースとして一般化する。

Figure 1: Cartoon illustration of QRFs required to observe and write a readable memory of an environmental state $|E\rangle$ . The QRFs $\mathbf{E}$ and $\mathbf{Y}$ read the state from $E$ and write it to the memory $Y$ respectively. Any identified system $S$ must be part of $E$ . The clock $\mathc

実験結果

リサーチクエスチョン

• RQ1 アクティブインファレンスシステムにおける制御フローは、生物学的スケールや複雑さに関係なく、普遍的にテンソルネットワーク（TNs）として表現可能か？
• RQ2 テンソルネットワーク（TNs）は、トポロジカル量子ニューラルネットワーク（TQNNs）の枠組み内でどのように実装可能であり、適応的かつ文脈感受性の高い行動をモデル化できるか？
• RQ3 幾何的レノルミゼーション群（RG）フローは、TNベースの推論システムにおけるスケール不変な制御を可能にする役割を果たすか？
• RQ4 TNは、アクティブインファレンスと自由エネルギー最小化の文脈において、既存のディープラーニングアーキテクチャをどのように一般化するか？
• RQ5 テンソルネットワーク（TNs）は、マクロ分子経路から複数生物集団に至るまで、制御を形式的かつ統一的に記述する言語をどのように提供するか？

主な発見

• アクティブインファレンスシステムにおける制御フローは、普遍的にテンソルネットワーク（TNs）として表現可能であり、文脈感受性の高い意思決定のための形式的でスケールフリーな枠組みを提供する。
• テンソルネットワーク（TNs）は、トポロジカル量子ニューラルネットワーク（TQNNs）内に実装可能であり、推論と方策選択の幾何学的・トポロジカルな記述を可能にする。
• TNsおよびTQNNsにおける幾何的レノルミゼーション群（RG）フローの使用は、生物学的情報処理と整合する階層的かつスケール不変なダイナミクスを明らかにする。
• トランスフォーマーや畳み込みネットワークなどの標準的な機械学習アーキテクチャは、アクティブインファレンスフレームワーク下でTNベースの制御システムの特別なケースとして示されている。
• 本フレームワークは、記憶、注意、予測をTN構造に符号化することにより、細胞シグナル伝達から集団形態形成に至るまで、生物学的制御のスケールを越えた統一的記述を可能にする。
• 結果から、スタイグメルギックや細胞間シグナル伝達を含む生物学的系の通信が、TNベースの推論によって媒介される予測的・言語的類似の相互作用として理解可能であると示唆される。