[论文解读] A macro agent and its actions

Larissa Albantakis, Francesco Massari+2 more|arXiv (Cornell University)|Mar 31, 2020

Embodied and Extended Cognition被引用 5

一句话总结

本文提出一种基于整合信息理论（IIT）的宏观层级智能体模型，证明在宏观尺度上，具有不可约因果结构的智能体可以涌现。通过模拟一个神经网络智能体，作者发现整合信息（Φ）在宏观层级达到峰值，通过因果分析识别出智能体的行为，挑战了复杂系统中代理性的还原论观点。

ABSTRACT

In science, macro level descriptions of the causal interactions within complex, dynamical systems are typically deemed convenient, but ultimately reducible to a complete causal account of the underlying micro constituents. Yet, such a reductionist perspective is hard to square with several issues related to autonomy and agency: (1) agents require (causal) borders that separate them from the environment, (2) at least in a biological context, agents are associated with macroscopic systems, and (3) agents are supposed to act upon their environment. Integrated information theory (IIT) (Oizumi et al., 2014) offers a quantitative account of causation based on a set of causal principles, including notions such as causal specificity, composition, and irreducibility, that challenges the reductionist perspective in multiple ways. First, the IIT formalism provides a complete account of a system's causal structure, including irreducible higher-order mechanisms constituted of multiple system elements. Second, a system's amount of integrated information ($Φ$) measures the causal constraints a system exerts onto itself and can peak at a macro level of description (Hoel et al., 2016; Marshall et al., 2018). Finally, the causal principles of IIT can also be employed to identify and quantify the actual causes of events ("what caused what"), such as an agent's actions (Albantakis et al., 2019). Here, we demonstrate this framework by example of a simulated agent, equipped with a small neural network, that forms a maximum of $Φ$ at a macro scale.

研究动机与目标

• 挑战还原论观点，即宏观层级智能体仅是方便的描述，证明其可具有不可约的因果结构。
• 展示可利用整合信息理论（IIT）的因果原理，在宏观尺度上识别并量化智能体。
• 证明整合信息（Φ）的量可在宏观层级达到峰值，表明系统的因果自主性。
• 利用IIT的因果原理，识别并量化事件的实际原因——如智能体的行为。
• 为动力系统中自上而下的因果关系与涌现现象提供形式化框架，尤其适用于生物与人工智能体。

提出的方法

• 作者模拟一个小型神经网络智能体，以建模具有动态因果相互作用的系统。
• 应用IIT的形式化方法计算系统的因果结构，识别不可约的高阶机制。
• 在多个描述层级上计算整合信息（Φ），以检测因果约束最大的位置。
• 通过追踪实际原因，利用因果分析识别‘什么导致了什么’——特别是智能体的行为。
• 该框架利用因果特异性、组合性与不可约性，定义宏观层级的智能体身份与代理行为。
• 在微观、宏观与中间层级对系统进行分析，比较Φ值并定位峰值。

实验结果

研究问题

• RQ1 宏观层级系统是否可表现出不可约的因果结构，从而支持代理行为，即使其微观组件是可约的？
• RQ2 对于模拟的智能体，整合信息（Φ）在哪个描述层级达到峰值，表明其因果自主性？
• RQ3 如何利用IIT的因果原理识别并量化事件的实际原因——如智能体的行为？
• RQ4 是否可以以一种形式化方式表达自上而下的因果关系与涌现现象，从而支持宏观层级智能体的存在？
• RQ5 宏观层级Φ的峰值是否与还原论假设相矛盾，即仅微观层级的因果解释才是根本？

主要发现

• 模拟智能体在宏观描述层级表现出整合信息（Φ）的最大值，表明该层级的因果约束最强。
• 宏观层级机制不可约，满足IIT对因果组合性与特异性的标准，支持其作为真实智能体的地位。
• 通过因果分析，智能体的行为被识别为实际原因，证明IIT可精确定位动力系统中‘什么导致了什么’。
• Φ在宏观尺度的峰值表明，该系统能对其自身施加不可还原的因果控制。
• 结果挑战了还原论观点，表明宏观层级的因果结构可为根本性，且无法从微观动力学推导得出。
• 该框架成功仅通过因果原理识别并量化了智能体身份与代理行为，无需依赖行为或功能定义。