[논문 리뷰] Information decomposition reveals hidden high-order contributions to temporal irreversibility

Andrea I. Luppi, Fernando E. Rosas외 3명|arXiv (Cornell University)|2023. 08. 10.

Neural dynamics and brain function인용 수 4

한 줄 요약

이 논문은 다변량 시계열에서 시간적 비가역성을 별개의 고차원 역학 모드로 분해하는 정보이론적 프레임워크를 소개한다. 이는 시간의 화살을 뒷받부침에 숨겨진 기여를 드러내며, 스칼라 지표에 도전하고 비가역성을 복잡한 정보 처리 역학과 연결한다. 이 방법은 임계점 이외의 생물물리학적 뇌 모델에서 지배적인 고차원 비가역성을 드러내어, 기존의 단순한 비가역성 모드를 초월한다.

ABSTRACT

Temporal irreversibility, often referred to as the arrow of time, is a fundamental concept in statistical mechanics. Markers of irreversibility also provide a powerful characterisation of information processing in biological systems. However, current approaches tend to describe temporal irreversibility in terms of a single scalar quantity, without disentangling the underlying dynamics that contribute to irreversibility. Here we propose a broadly applicable information-theoretic framework to characterise the arrow of time in multivariate time series, which yields qualitatively different types of irreversible information dynamics. This multidimensional characterisation reveals previously unreported high-order modes of irreversibility, and establishes a formal connection between recent heuristic markers of temporal irreversibility and metrics of information processing. We demonstrate the prevalence of high-order irreversibility in the hyperactive regime of a biophysical model of brain dynamics, showing that our framework is both theoretically principled and empirically useful. This work challenges the view of the arrow of time as a monolithic entity, enhancing both our theoretical understanding of irreversibility and our ability to detect it in practical applications.

연구 동기 및 목표

• 다변량 시계열에서 시간적 비가역성의 다차원적 성격을 포괄하지 못하는 스칼라 지표의 한계를 해결하기 위해.
• 원칙적인 정보이론적 프레임워크를 사용해 비가역성의 힌트적 지표를 정보 처리 지표와 공식적으로 연결하기 위해.
• 복잡한 역학계에서 이전에 보고되지 않은 고차원 비가역성 모드를 식별하고 정량화하기 위해.
• 이 프레임워크의 실증적 유용성을 생물물리학적으로 현실적인 뇌 역학 모델에서 입증하기 위해.

제안 방법

• 시간점 간 상호정보를 별개의 정보 원자로 분해하기 위해 통합 정보 분해(ΦID)를 적용한다: 빨간색(중복), UnX(X에 고유한), UnY(Y에 고유한), Syn(상호작용적).
• 정보 원자를 정의하고 시간 시계열 전역에서 비가역 기여를 계산하기 위해 최소 상호정보(MMI) 중복 함수를 사용한다.
• 인간 dMRI 데이터에서 유도된 현실적인 구조적 연결성을 가진 다변량 뇌 활동을 시뮬레이션하기 위해 동적 평균장(DMF) 모델을 사용한다.
• 비가역성의 정도를 측정하기 위해 INSIDEOUT 지표를 적용하고, 다양한 전역 결합 강도(G)에서의 분해 결과와 비교한다.
• 모든 영역 쌍에 걸쳐 평균을 내어 네트워크 전반의 비가역성 역학을 평가하기 위해 결과를 집계한다.
• 실제 시계열 분석을 위해 뉴런 활동을 시뮬레이션된 BOLD 신호로 변환하기 위해 볼루민-윈드케셀 혈관동역학 모델을 사용한다.

Figure 1: Irreversible modes of information dynamics . a) Examples of different irreversible modes of information dynamics and their time-reversed counterparts: irreversibility due to asymmetry between copy and erasure of information (top); irreversibility due to asymmetry of information transfer be

실험 결과

연구 질문

• RQ1 단순한 이변량 전달 또는 삭제-복사 비대칭성 외에 어떤 정보 역학적 동작이 시간적 비가역성에 기여하는가?
• RQ2 비대칭적인 전체-부분 정보 전달과 같은 고차원 정보 역학적 동작이 관측된 비가역성에 상당한 기여를 할 수 있는가?
• RQ3 생물물리학적 뇌 모델의 다양한 역학적 제어 영역에서 고차원 비가역성 모드의 기여는 어떻게 변화하는가?
• RQ4 비가역성의 힌트적 지표(예: INSIDEOUT)는 어떤 정도로 기초 정보이론적 메커니즘을 반영하는가?

주요 결과

• 제안된 프레임워크는 이전 문헌에서 보고되지 않은 고차원 비가역성 정보 역학적 동작을 질적으로 드러낸다.
• 특히 전체 시스템과 그 부분 사이의 비대칭 전달에서 비롯되는 고차원 비가역성이 DMF 모델의 과활성 상태에서 비가역성의 주요 기여 요소로 지배한다.
• INSIDEOUT 지표는 ΦID 프레임워크를 통해 정보 역학적 동작과 공식적으로 연결되며, 이 지표의 사용에 대한 이론적 기반을 제공한다.
• MMI 중복 함수 하에서 복사-삭제 모드의 비가역성이 사라지며, 이는 이 모드가 항상 존재하는 것은 아니며 중복 함수의 선택에 따라 달라진다는 것을 시사한다.
• DMF 모델의 임계점 이외에서는 고차원 기여가 저차원 기여를 초월하며, 이는 복잡계에서의 기능적 중요성을 시사한다.
• 이 프레임워크는 다양한 정보 역학적 동작의 기여를 성공적으로 분리하여 비가역성의 다차원적 특성화를 가능하게 한다.

Figure 2: Distinct modes of temporal irreversibility in simulated brain dynamics. a) A biophysical model of excitatory (E) and inhibitory (I) neural masses coupled according to the structural connectivity of the human brain is used to simulate the neural dynamics of different brain regions. The mode