[논문 리뷰] Towards a Geometry and Analysis for Bayesian Mechanics

Dalton A R Sakthivadivel|arXiv (Cornell University)|2022. 04. 25.

Statistical Mechanics and Entropy인용 수 13

한 줄 요약

이 논문은 미분기하학과 최대 엔트로피 원리를 사용하여 자유 에너지 원리에 기반한 베이지안 역학을 수립하며, 제약 조건이 가진 동역적 시스템이 엔트로피의 경사상승에 의한 근사 베이지안 추론을 수행함을 보여준다. 이는 자가조직화를 게이지 이론적 해석으로 다루며, 제약 조건을 비롯한 탄생하는 힘과 비평형 정적인 시스템에서 자유 에너지 원리의 엄밀한 기하학적 기반을 제공한다.

ABSTRACT

In this paper, a simple case of Bayesian mechanics under the free energy principle is formulated in axiomatic terms. We argue that any dynamical system with constraints on its dynamics necessarily looks as though it is performing inference against these constraints, and that in a non-isolated system, such constraints imply external environmental variables embedding the system. Using aspects of classical dynamical systems theory in statistical mechanics, we show that this inference is equivalent to a gradient ascent on the Shannon entropy functional, recovering an approximate Bayesian inference under a locally ergodic probability measure on the state space. We also use some geometric notions from dynamical systems theory$\unicode{x2014}$namely, that the constraints constitute a gauge degree of freedom$\unicode{x2014}$to elaborate on how the desire to stay self-organised can be read as a gauge force acting on the system. In doing so, a number of results of independent interest are given. Overall, we provide a related, but alternative, formalism to those driven purely by descriptions of random dynamical systems, and take a further step towards a comprehensive statement of the physics of self-organisation in formal mathematical language.

연구 동기 및 목표

• 복잡한 동역적 시스템에서 자유 에너지 원리(Free Energy Principle, FEP)에 대한 기하학적 및 분석적 기반을 구축하는 것.
• 제약 조건이 동역적 시스템에서 추론 유사 행동으로 이르게 하며, 샤논 엔트로피의 경사상승과 동치가 됨을 보여주는 것.
• 미분기하학과 동역적 시스템 이론의 도구를 사용하여 제약 조건에서 기인하는 게이지 힘으로서 자가조직화를 해석하는 것.
• 순수한 확률적 동역적 시스템 접근법에 대한 대안 형식을 최대 엔트로피와 장 이론에 기반하여 제공하는 것.
• 국소적 에르고딕성과 정적 상태 하에서 FEP가 수학적으로 타당함을 확립하며, 비평형 통계역학에 대한 함의를 제시하는 것.

제안 방법

• 자유 에너지 원리에 기반한 베이지안 역학의 공리적 수립을 통해 제약 조건을 시스템 유사 상태를 정의하는 것으로 간주한다.
• 제약 조건 하에서 최대 엔트로피 원리를 적용하여 추론을 엔트로피의 경사상승으로 해석하는 등가 기술을 유도한다.
• 동역적 시스템 이론의 기하학적 구조를 도입하여 제약 조건을 게이지 자유도로 해석한다.
• 카테고리 이론적 이중성을 사용하여 믿음 추론과 상태 분포 최적화를 연결한다.
• 정적 확률과정과 수준집합 매개변수화를 사용하여 제약 조건 하에서의 시스템 동역학을 모델링한다.
• 소렌로이드 및 소산 흐름 분해를 적용하여 비평형 정적 상태를 기술하고 FEP 동역학과 연결한다.

실험 결과

연구 질문

• RQ1 동역적 시스템의 제약 조건이 어떻게 추론 메커니즘으로서 형식화될 수 있으며, 그 기하학적 해석은 무엇인가?
• RQ2 비평형 시스템에서 자유 에너지 원리가 제약 조건 하에서 최대 엔트로피와 얼마나 동치인가?
• RQ3 복잡한 시스템의 자가조직화가 상태 동역학에 대한 제약 조건에서 기인하는 게이지 힘으로 해석될 수 있는가?
• RQ4 국소적 에르고딕성이 FEP 프레임워크 내에서 근사 베이지안 추론을 가능하게 하는 데 어떤 역할을 하는가?
• RQ5 흐름의 소렌로이드 및 소산 성분은 최대 엔트로피 원리로부터 어떻게 유도되며, 그 물리적 의미는 무엇인가?

주요 결과

• 국소적 에르고딕성 하에서 제약 조건이 동역적 시스템에 의해 샤논 엔트로피 기능에 대한 경사상승을 통해 근사 베이지안 추론을 유도한다.
• 자유 에너지 원리는 제약 조건 하에서 엔트로피 최대화와 수학적으로 동치이며, 이는 이론에 대한 새로운 기하학적 및 분석적 기반을 제공한다.
• 시스템이 자가조직화를 유지하고자 하는 욕구는 제약 다양체에서 기인하는 게이지 힘으로 해석되며, 물리학에서의 게이지 대칭성과 유사하다.
• 비평형 정적 상태는 소렌로이드 및 소산 벡터장으로 분해될 수 있으며, 흐름은 제약 조건으로 정의된 포획 영역을 향해 향한다.
• 흐름의 분해는 유일하지 않으며, 이는 군집 통계만이 정적 밀도를 결정하며, 그 기반 동역학은 결정하지 않음을 반영한다.
• 최대 엔트로피는 FEP에 대한 장이론어휘를 제공하며, 평형을 초월하여 복잡하고 적응적인 시스템에 대한 공식적 다루기 가능성을 제공한다.