[논문 리뷰] A macro agent and its actions

Larissa Albantakis, Francesco Massari외 2명|arXiv (Cornell University)|2020. 03. 31.

Embodied and Extended Cognition인용 수 5

한 줄 요약

이 논문은 통합 정보 이론(IIT)을 사용하여 매크로 수준의 에이전트 모델을 제안하여, 에이전트가 인식할 수 없는 원인적 구조를 가진 매크로 척도에서 존재할 수 있음을 입증한다. 신경망 에이전트를 시뮬레이션함으로써 저자들은 통합 정보(Φ)가 매크로 수준에서 최고조를 이루며, 원인 분석을 통해 에이전트의 행동을 식별함으로써 복잡계에서의 에이전시에 대한 감소론적 관점을 도전한다.

ABSTRACT

In science, macro level descriptions of the causal interactions within complex, dynamical systems are typically deemed convenient, but ultimately reducible to a complete causal account of the underlying micro constituents. Yet, such a reductionist perspective is hard to square with several issues related to autonomy and agency: (1) agents require (causal) borders that separate them from the environment, (2) at least in a biological context, agents are associated with macroscopic systems, and (3) agents are supposed to act upon their environment. Integrated information theory (IIT) (Oizumi et al., 2014) offers a quantitative account of causation based on a set of causal principles, including notions such as causal specificity, composition, and irreducibility, that challenges the reductionist perspective in multiple ways. First, the IIT formalism provides a complete account of a system's causal structure, including irreducible higher-order mechanisms constituted of multiple system elements. Second, a system's amount of integrated information ($Φ$) measures the causal constraints a system exerts onto itself and can peak at a macro level of description (Hoel et al., 2016; Marshall et al., 2018). Finally, the causal principles of IIT can also be employed to identify and quantify the actual causes of events ("what caused what"), such as an agent's actions (Albantakis et al., 2019). Here, we demonstrate this framework by example of a simulated agent, equipped with a small neural network, that forms a maximum of $Φ$ at a macro scale.

연구 동기 및 목표

• 매크로 수준의 에이전트가 단지 편리한 서술에 불과하다는 감소론적 관점을 도전하기 위해, 그것이 감소 불가능한 원인적 구조를 가질 수 있음을 보여주기 위해.
• 통합 정보 이론(IIT)의 원인 원칙을 사용하여 매크로 척도에서 에이전트를 식별하고 정량화할 수 있음을 입증하기 위해.
• 통합 정보(Φ)의 양이 매크로 수준에서 최고조를 이룰 수 있음을 보여주어, 시스템의 원인적 자율성을 나타내기 위해.
• IIT의 원인 원칙을 사용하여 사건들—예를 들어 에이전트의 행동—의 실제 원인을 식별하고 정량화하기 위해.
• 특히 생물학적 및 인공 에이전트에서 동적 시스템의 상향식 원인성과 환기 현상을 공식화하는 프레임워크를 제공하기 위해.

제안 방법

• 저자들은 동적이고 원인적인 상호작용을 가지는 시스템을 모델링하기 위해 소규모 신경망 에이전트를 시뮬레이션한다.
• 그들은 시스템의 원인적 구조를 식별하기 위해 IIT의 공식 체계를 적용한다. 이는 감소 불가능한 고차원 메커니즘을 식별한다.
• 다양한 수준의 서술에서 통합 정보(Φ)를 계산하여 원인 제약 조건이 최대가 되는 지점을 탐지한다.
• 원인 분석을 통해 '무엇이 무엇을 일으켰는가'—특히 에이전트의 행동—를 식별하기 위해 IIT의 원인 원칙을 사용한다.
• 에이전트의 정의와 매크로 수준에서의 에이전시를 정의하기 위해 원인의 특이성, 조합성, 감소 불가능성을 활용한다.
• 마이크로, 매크로, 중간 수준에서 시스템을 분석하여 Φ 값을 비교하고 최고조를 위치한다.

실험 결과

연구 질문

• RQ1 마이크로 수준 구성 요소가 감소 가능할지라도, 매크로 수준의 시스템이 에이전시를 지지하는 감소 불가능한 원인적 구조를 가질 수 있는가?
• RQ2 모의 에이전트의 경우 통합 정보(Φ)가 어느 서술 수준에서 최고조를 이루는가? 이는 시스템의 원인적 자율성을 나타낸다.
• RQ3 IIT의 원인 원칙을 사용하여 사건들—예를 들어 에이전트의 행동—의 실제 원인을 어떻게 식별하고 정량화할 수 있는가?
• RQ4 상향식 원인성과 환기 현상이 매크로 수준에서의 에이전스 존재를 지지하는 방식으로 공식화될 수 있는가?
• RQ5 매크로 수준에서 Φ의 최고조가 감소론적 가정—즉, 유일한 근본적인 원인 계정은 마이크로 수준에서만 존재한다는 주장—과 모순되는가?

주요 결과

• 모의 에이전트는 매크로 수준의 서술에서 통합 정보(Φ)의 최고조를 보이며, 이는 원인 제약 조건이 그 곳에서 가장 강하다는 것을 나타낸다.
• 매크로 수준의 메커니즘은 감소 불가능하며, IIT의 원인 조합성 및 특이성 기준을 충족하여 진정한 에이전트로서의 자격을 지닌다.
• 원인 분석을 통해 에이전트의 행동이 실제 원인으로 식별되었으며, 이는 IIT가 역동적 시스템에서 '무엇이 무엇을 일으켰는가'를 정확히 특정할 수 있음을 보여준다.
• 매크로 척도에서 Φ의 최고조는 시스템이 자신의 원인적 제어를 행사할 수 있음을 나타내며, 이는 그 마이크로 구성 요소로 환원될 수 없다는 것을 의미한다.
• 결과적으로 감소론적 관점을 도전하기 위해 매크로 수준의 원인적 구조가 근본적이며 마이크로 수준의 동역학에서 유도될 수 없다는 점을 보여준다.
• 행동적 또는 功能적 정의에 의존하지 않고도 원인 원칙만으로도 에이전트의 정의와 에이전시를 성공적으로 식별하고 정량화할 수 있었다.