[논문 리뷰] On Bayesian Mechanics: A Physics of and by Beliefs

Maxwell J. D. Ramstead, Dalton A R Sakthivadivel외 6명|arXiv (Cornell University)|2022. 05. 23.

Statistical Mechanics and Entropy인용 수 11

한 줄 요약

이 논문은 자기조직화 시스템이 확률적 추론을 통해 환경에 대한 사후 확률 믿음을 추정하는 것처럼 보이게 하는 형식적 프레임워크로 베이지안 역학을 소개한다. 게이지 이론적 이중성으로 자유 에너지 원리와 제약된 최대 엔트로피 원리를 통합함으로써, 통계 다양체 위에서 믿음 동역학의 역학을 제공하며, 비정적 또는 혼돈적인 궤적을 가지는 시스템에 대한 역학 이론을 가능하게 한다.

ABSTRACT

The aim of this paper is to introduce a field of study that has emerged over the last decade called Bayesian mechanics. Bayesian mechanics is a probabilistic mechanics, comprising tools that enable us to model systems endowed with a particular partition (i.e., into particles), where the internal states (or the trajectories of internal states) of a particular system encode the parameters of beliefs about external states (or their trajectories). These tools allow us to write down mechanical theories for systems that look as if they are estimating posterior probability distributions over the causes of their sensory states. This provides a formal language for modelling the constraints, forces, potentials, and other quantities determining the dynamics of such systems, especially as they entail dynamics on a space of beliefs (i.e., on a statistical manifold). Here, we will review the state of the art in the literature on the free energy principle, distinguishing between three ways in which Bayesian mechanics has been applied to particular systems (i.e., path-tracking, mode-tracking, and mode-matching). We go on to examine a duality between the free energy principle and the constrained maximum entropy principle, both of which lie at the heart of Bayesian mechanics, and discuss its implications.

연구 동기 및 목표

• 물리 시스템 내에서 확률적 믿음 형성의 역학을 형식화하는 새로운 학문 분야인 베이지안 역학을 확립하기.
• 특히 생물학적 시스템을 포함한 비정적, 적응형 시스템을 모델링하는 데의 격차를 메우기 위해, 전통적 역학에 믿음 동역학을 포함시켜 확장함으로써 이를 달성하기.
• 자유 에너지 원리(FEP)의 인지적 성격과 복잡한 적응 시스템 과학적 모델링에서의 역할을 명확히 하기.
• 게이지 이론적 이중성을 통해 자유 에너지 원리와 제약된 최대 엔트로피 원리(CMEP)를 통합하기.
• 이동하는 액터, 혼돈적 동역학, 또는 정적 분포가 없는 시스템을 기술할 수 있는 일반 이론(G-이론)의 기초를 마련하기.

제안 방법

• 물리 상태 동역학과 믿음 상태 동역학을 쌍대(이중) 공간을 통해 연결하는 켤레 정보 기하학으로서 베이지안 역학을 형식화한다.
• 자유 에너지 원리(FEP)를 적용하여 변분 자유 에너지를 최소화하는 시스템을 베이지안 추론의 대체 척도로 모델링한다.
• FEP와 제약된 최대 엔트로피 원리(CMEP) 사이의 이중성을 도입하여, 게이지 대칭성과 이중화 하에 등가성을 보여준다.
• 정보 기하학을 사용하여 통계 다원체 위에서 믿음 동역학을 모델링하며, 믿음 상태를 확률 분포의 리만 다양체 위에서 진화하는 것으로 간주한다.
• 게이지 이론 개념을 활용하여 믿음 및 물리 상태 공간의 대칭성으로부터 역학 법칙을 유도하며, 특히 캘리브어와 놀라움의 조인크션을 통해 이를 수행한다.
• 최대 캘리브어를 변분 원리로 활용하여 FEP와 CMEP를 비정적 시스템으로 일반화하는 G-이론의 프레임워크를 제안한다.

실험 결과

연구 질문

• RQ1 환경 원인에 대한 사후 믿음을 추정하는 것처럼 보이는 시스템에 대해 어떻게 기계적 이론을 수립할 수 있는가?
• RQ2 자유 에너지 원리와 제약된 최대 엔트로피 원리 사이의 수학적·물리적 관계는 무엇인가?
• RQ3 FEP와 CMEP 사이의 이중성이 어떻게 복잡한 시스템에서 믿음 동역학과 물리적 동역학을 통합적으로 기술하는 데 기여하는가?
• RQ4 베이지안 역학은 비정적, 혼돈적, 또는 시간에 따라 변화하는 액터를 가지는 시스템을 어떻게 묘사할 수 있는가?
• RQ5 게이지 대칭성과 이중화가 확률적 믿음을 포함하는 시스템의 일관된 동역학을 유도하는 데 어떤 역할을 하는가?

주요 결과

• 베이지안 역학은 시스템이 베이지안 추론을 수행하는 것처럼 행동할 때, 통계 다원체 위에서 제약, 힘, 포텐셜, 동역학을 기술하는 형식적 언어를 제공한다.
• 게이지 이론적 구조를 통해 자유 에너지 원리(FEP)와 제약된 최대 엔트로피 원리(CMEP) 사이의 이중성이 확립되며, 통계적 및 물리적 동역학 간 깊은 대칭성을 드러낸다.
• 켤레 정보 기하학 프레임워크는 물리 시스템에 대해 이중적 기술을 가능하게 하며, 하나는 물리 상태 궤적에 대한 기술이고, 다른 하나는 통계 다원체 위에서 믿음 상태의 진화에 대한 기술이다.
• 최대 캘리브어로 일반화함으로써 이 프레임워크는 비정적 시스템을 지원하며, 이는 이동하거나 혼돈적인 액터를 가진 시스템에 대해 놀라움보다 더 적합하다.
• 제안된 G-이론 프레임워크에서 오른쪽 수반 사상의 존재는 믿음 공간의 자유 에너지와 물리 공간의 엔트로피를 연결하는 교환 다이어그램을 허용하며, 이중성의 타당성을 검증한다.
• 논문은 시간이 지남에 따라 조직을 유지하는 시스템이 열역학 제2법칙을 위반하지 않음을 입증한다. 이는 그들의 엔트로피에 대한 명백한 저항이 활동적 추론과 믿음 기반 동역학을 통해 설명되기 때문이다.