[논문 리뷰] Dynamical independence: discovering emergent macroscopic processes in complex dynamical systems

L. D. Barnett, Anil K. Seth|arXiv (Cornell University)|2021. 06. 11.

Neural dynamics and brain function인용 수 4

한 줄 요약

이 논문은 복잡한 동역학계에서 기인하는 거시적 과정을 식별하기 위한 형식적 프레임워크로 동역학적 독립성(dynamical independence)을 제안한다. 이는 거시적 과정을 자체의 동역학을 가진 자율적 실체로 간주하는 것이다. 이는 샤논 엔트로피 기반의 변환 불변성 정보이론적 측도를 바탕으로 한 동역학적 종속성의 측도를 제안하여, 시간 및 주파수 도메인의 상태공간 모델을 사용해 시공간 스케일 전반에서 데이터 기반으로 잠재적 현상을 탐지할 수 있게 한다.

ABSTRACT

We introduce a notion of emergence for coarse-grained macroscopic variables associated with highly-multivariate microscopic dynamical processes, in the context of a coupled dynamical environment. Dynamical independence instantiates the intuition of an emergent macroscopic process as one possessing the characteristics of a dynamical system "in its own right", with its own dynamical laws distinct from those of the underlying microscopic dynamics. We quantify (departure from) dynamical independence by a transformation-invariant Shannon information-based measure of dynamical dependence. We emphasise the data-driven discovery of dynamically-independent macroscopic variables, and introduce the idea of a multiscale "emergence portrait" for complex systems. We show how dynamical dependence may be computed explicitly for linear systems via state-space modelling, in both time and frequency domains, facilitating discovery of emergent phenomena at all spatiotemporal scales. We discuss application of the state-space operationalisation to inference of the emergence portrait for neural systems from neurophysiological time-series data. We also examine dynamical independence for discrete- and continuous-time deterministic dynamics, with potential application to Hamiltonian mechanics and classical complex systems such as flocking and cellular automata.

연구 동기 및 목표

• 미세구조적 상호작용과는 다를 바 있는 자율적 동역학을 갖는 거시적 과정으로서의 탄생 현상의 직관적 개념을 형식화하기 위해.
• 고차원 시스템에서 동역학적으로 독립적인 거시적 변수를 체계적으로 식별하기 위한 원칙적이고 데이터 기반의 방법 개발을 위해.
• 다양한 시공간 스케일에서의 거시역학적 동역학을 맵핑하는 다스케일 '탄생 포트레이트(multiscale 'emergence portrait')'의 개념을 제안하기 위해.
• 상태공간 모델링을 통해 뇌신경 생리학적 시계열 데이터로부터의 탄생적 구조 추론을 가능하게 하기 위해.
• 이론적 프레임워크를 이산 및 연속 시간 결정론적 시스템, 힘의 법칙 및 셀룰러 오토마타까지 확장하기 위해.

제안 방법

• 거시적 변수가 미세구조적 동역학에 영향을 받지 않고 독립적으로 진화하는 조건으로서 동역학적 독립성을 정의하며, 샤논 정보 기반의 변환 불변성 동역학적 종속성 측도를 통해 형식화한다.
• 선형 시스템에 대해 상태공간 모델을 사용하여 시간 및 주파수 도메인에서의 동역학적 종속성을 계산함으로써 측도를 실용화한다.
• 특성선 방법을 사용하여 불변량과 유동-평행 좌표(τ, u)를 구하고, 이로써 동역학을 평탄화하여 동역학적으로 독립적인 군집화를 명시적으로 계산할 수 있도록 한다.
• 동역학적으로 독립적인 군집화 맵의 일반형을 f(x) = Ψ(τ(x), u(x))로 유도하며, 여기서 τ는 시간 유사 변수이고 u는 함수적으로 독립적인 불변량이다.
• 선형 확률적 시스템에 대해 상태공간 표현을 통해 적용하여, 경험적 시계열 데이터로부터 동역학적 종속성을 추정할 수 있도록 한다.
• 연속 시간 미분방정식 및 이산 시간 맵을 포함한 결정론적 시스템으로 접근를 확장하며, 동역학계 이론의 예시를 통해 설명한다.

실험 결과

연구 질문

• RQ1 자기 동역학을 갖는 거시적 과정이 어떻게 형식적으로 정의되고 정량화될 수 있는가?
• RQ2 다양한 시공간 스케일 전반에서 이러한 탄생적 과정을 체계적이고 데이터 기반으로 탐색할 수 있는 방법은 무엇인가?
• RQ3 거시적 변수와 기초가 되는 미세구조적 동역학 사이의 동역학적 독립성 정도를 어떻게 측정할 수 있는가?
• RQ4 이 프레임워크는 실제 뇌신경 생리학적 데이터에 적용되어 거시적 동역학을 추론할 수 있는가?
• RQ5 동역학적 독립성의 개념은 힘의 법칙 및 셀룰러 오토마타와 같은 결정론적 시스템으로 어떻게 일반화될 수 있는가?

주요 결과

• 논문은 샤논 엔트로피 기반의 변환 불변성 정보이론적 측도를 도입하여 탄생 현상의 강력한 정량화를 가능하게 했다.
• 선형 시스템의 경우 상태공간 모델을 사용해 시간 및 주파수 도메인에서 동역학적 종속성을 명시적으로 계산할 수 있어, 탄생 과정의 스케일러블 탐지가 가능해졌다.
• 동역학적으로 독립적인 군집화 맵의 일반형은 f(x) = Ψ(τ(x), u(x))로 유도되었으며, 여기서 τ는 시간 유사 변수이고 u는 불변량이다. 이는 탄생 동역학의 체계적 식별을 가능하게 한다.
• 논문의 프레임워크는 3차원 비선형 미분방정식계에서 거시적 행동의 탄생을 성공적으로 식별하였으며, 불변량과 유동-평행 좌표에 대한 명시적 해를 제공하였다.
• 이 방법은 시공간 스케일 전반에서 탄생적 구조를 드러내는 '다스케일 탄생 포트레이트'를 구성할 수 있었으며, 시각적으로 명백하지 않은 경우에도 효과적으로 작용하였다.
• 이 방법은 실제 세계 데이터, 예를 들어 신경 시계열 데이터에 적용 가능하여, 전체 시뮬레이션을 요구하지 않고도 미세구조 관측에서 거시적 동역학을 추론할 수 있도록 하였다.