[論文レビュー] A macro agent and its actions

Larissa Albantakis, Francesco Massari+2 more|arXiv (Cornell University)|Mar 31, 2020

Embodied and Extended Cognition被引用数 5

ひとこと要約

本稿では、統合情報理論（IIT）を用いたマクロスケールのエージェントモデルを提案し、エージェントが非還元的な因果構造を持つマクロスケールに出現しうることを示している。ニューラルネットワークエージェントのシミュレーションを通じて、統合情報（Φ）がマクロスケールでピークに達することを示し、因果分析によってエージェントの行動を同定することで、複雑系におけるエージェント性の還元主義的見解に挑戦している。

ABSTRACT

In science, macro level descriptions of the causal interactions within complex, dynamical systems are typically deemed convenient, but ultimately reducible to a complete causal account of the underlying micro constituents. Yet, such a reductionist perspective is hard to square with several issues related to autonomy and agency: (1) agents require (causal) borders that separate them from the environment, (2) at least in a biological context, agents are associated with macroscopic systems, and (3) agents are supposed to act upon their environment. Integrated information theory (IIT) (Oizumi et al., 2014) offers a quantitative account of causation based on a set of causal principles, including notions such as causal specificity, composition, and irreducibility, that challenges the reductionist perspective in multiple ways. First, the IIT formalism provides a complete account of a system's causal structure, including irreducible higher-order mechanisms constituted of multiple system elements. Second, a system's amount of integrated information ($Φ$) measures the causal constraints a system exerts onto itself and can peak at a macro level of description (Hoel et al., 2016; Marshall et al., 2018). Finally, the causal principles of IIT can also be employed to identify and quantify the actual causes of events ("what caused what"), such as an agent's actions (Albantakis et al., 2019). Here, we demonstrate this framework by example of a simulated agent, equipped with a small neural network, that forms a maximum of $Φ$ at a macro scale.

研究の動機と目的

• マクロスケールのエージェントが単なる便宜的記述に過ぎないという還元主義的見解に反論し、非還元的な因果構造を有しうることを示すこと。
• 統合情報理論（IIT）の因果的原則を用いて、マクロスケールでエージェントを同定・定量できることを示すこと。
• 統合情報（Φ）の量がマクロスケールでピークに達することを示し、システムの因果的自律性を示唆すること。
• IITの因果的原則を用いて、エージェントの行動といった出来事の実原因を同定・定量すること。
• 動的システム、特に生物学的および人工エージェントにおいて、上位から下位への因果性と出現現象を形式的フレームワークで定式化すること。

提案手法

• 著者らは、動的かつ因果的相互作用を持つシステムをモデル化するため、小さなニューラルネットワークエージェントをシミュレートした。
• 彼らはIITの形式的枠組みを適用して、システムの因果構造を計算し、非還元的な高次メカニズムを同定した。
• 複数の記述レベルで統合情報（Φ）を計算し、因果的制約が最大になる場所を特定した。
• 因果分析を用いて「何が何を引き起こしたか」、特にエージェントの行動を特定した。IITの因果的原則に従って実原因を追跡した。
• 因果的特異性、構成性、非還元性を活用して、マクロスケールにおけるエージェント性とエージェント性の定義をした。
• 微視的、マクロ的、中間的レベルでシステムを分析し、Φ値を比較してピークを特定した。

実験結果

リサーチクエスチョン

• RQ1 微視的レベルの構成要素が還元可能であっても、マクロスケールのシステムが非還元的な因果構造を示し、エージェント性を支持できるか？
• RQ2 シミュレートされたエージェントにおいて、統合情報（Φ）がどの記述レベルでピークに達するか。これは因果的自律性を示唆する。
• RQ3 IITの因果的原則を用いて、エージェントの行動といった出来事の実原因をどのように同定・定量できるか？
• RQ4 上位から下位への因果性と出現現象を、マクロスケールにおけるエージェントの存在を支持する形で形式化できるか？
• RQ5 マクロスケールでΦのピークが観察されることにより、微視的レベルの因果的説明のみが根本的であるという還元主義的仮定が矛盾するか？

主な発見

• シミュレートされたエージェントは、マクロスケールの記述において統合情報（Φ）の最大値を示しており、ここに因果的制約が最も強いことを示している。
• マクロスケールのメカニズムは非還元的であり、IITの因果的構成性と特異性の基準を満たしており、真のエージェントとしての地位を支持している。
• 因果分析を通じてエージェントの行動が実原因として同定され、IITが動的システム内で「何が何を引き起こしたか」を特定できることを示した。
• マクロスケールでのΦのピークは、システムが自身の因果的制御を発揮できることを示しており、これは微視的成分に還元できない。
• 結果として、マクロスケールの因果構造が根本的で、微視的ダイナミクスから導出不可能であることを示すことで、還元主義的見解に反論した。
• 行動的または機能的定義に依存せず、因果的原則のみを用いてエージェント性とエージェント性を成功裏に同定・定量したフレームワークを提示した。