[論文レビュー] Active Inference in String Diagrams: A Categorical Account of Predictive Processing and Free Energy

Sean Tull, Johannes Kleiner+1 more|arXiv (Cornell University)|Aug 1, 2023

Philosophy and History of Science被引用数 5

ひとこと要約

本稿では、コピー可能で破棄可能な構造を備えたモノイダル圏におけるストリング図を用いて、予測処理と能動的推論のカテゴリカルで図式的な定式化を提示する。自由エネルギー最小化を用いた能動的推論の公式の完全な図式的導出を実現し、変分自由エネルギーの合成性を確立することで、システムの各レベルにまで階層的な応用が可能となる。

ABSTRACT

We present a categorical formulation of the cognitive frameworks of Predictive Processing and Active Inference, expressed in terms of string diagrams interpreted in a monoidal category with copying and discarding. This includes diagrammatic accounts of generative models, Bayesian updating, perception, planning, active inference, and free energy. In particular we present a diagrammatic derivation of the formula for active inference via free energy minimisation, and establish a compositionality property for free energy, allowing free energy to be applied at all levels of an agent's generative model. Aside from aiming to provide a helpful graphical language for those familiar with active inference, we conversely hope that this article may provide a concise formulation and introduction to the framework.

研究の動機と目的

• カテゴリカル理論を用いて、予測処理と能動的推論の概念的に明確で、合成的かつ図式的な形式化を提供すること。
• アクティブな推論におけるベイズ更新、知覚、計画、自由エネルギー最小化について、形式的で図式的な取り扱いの欠如を是正すること。
• 自由エネルギー最小化が階層的生成モデルを横断して合成的であることを確立し、すべてのシステムレベルへの応用を可能にすること。
• オープン生成モデルとそれらのための変分自由エネルギーを導入し、モジュラーな推論を可能にすること。
• アクティブな推論とcdカテゴリー、マークフ・カテゴリーなどのカテゴリカル枠組みの間のギャップを埋め、認知科学および人工知能における推論のための新しい言語を提供すること。

提案手法

• cdカテゴリー（例えば、有限離散系のためのMatR+）におけるストリング図として生成モデル、知覚、計画を形式化すること。
• ストリング図を用いてベイズ更新を表現し、ジェフリー更新およびピアール更新によるソフト観測、および変分自由エネルギー（VFE）更新を含めること。
• 知覚と計画の図式を合成することで、従来の確率的計算を避けて、純粋に図式的にアクティブな推論の公式を導出すること。
• モジュラーかつ階層的な合成を可能にするために、入力を備えたオープン生成モデルを導入すること。
• オープンモデルのための変分自由エネルギーを定義し、その合成性を証明する：グローバルなVFE最小化は、部分モデルにおける局所的最小化に還元可能である。
• cdカテゴリーの構造を活用して、条件付き確率や周辺化を含む確率的推論が完全に図式的かつ合成的であることを保証すること。

実験結果

リサーチクエスチョン

• RQ1 アクティブな推論と自由エネルギー最小化は、カテゴリカル枠組みにおけるストリング図を用いて完全に形式化可能か？
• RQ2 標準的なアクティブな推論の公式は、生成モデルの高レベル構造から純粋に図式的に導出可能か？
• RQ3 階層的またはモジュラーな生成モデルに跨る自由エネルギー最小化は、合成性を示すか？
• RQ4 ソフト観測と異なる形のベイズ更新（ジェフリー、ピアール、VFE）は、図式的なカテゴリカル枠組みにどのように適合するか？
• RQ5 カテゴリカルかつ合成的視点は、特に意識と因果的推論に関連して、アクティブな推論にどのような新たな洞察をもたらすか？

主な発見

• アクティブな推論の公式はストリング図の合成によって完全に図式的に導出され、標準的な結果に対する透明で原理的根拠が得られる。
• 本稿では、変分自由エネルギー（VFE）の合成性が確立された：グローバルなVFEを最小化する系は、各部分モデルで局所的にVFEを最小化することで達成可能である。
• 入力を備えたオープン生成モデルが形式的に導入され、複雑なモデルのモジュラー構築と階層的推論を可能にする。
• この枠組みはソフト観測と複数のベイズ更新形態（ジェフリー、ピアール、VFE）を自然に扱い、VFE更新が合成性と整合することを示した。
• カテゴリカルアプローチは、知覚、計画、推論のための統一的で高レベルの言語を提供し、人工知能および認知科学への統合の可能性を秘めている。
• 結果として、連続的設定、メッセージパッシングアルゴリズム、介入による因果的推論への拡張の基盤が築かれた。