[논문 리뷰] The free energy principle made simpler but not too simple

Karl Friston, Lancelot Da Costa외 5명|arXiv (Cornell University)|2022. 01. 17.

Advanced Thermodynamics and Statistical Mechanics인용 수 9

한 줄 요약

이 논문은 랑주아ン 방정식를 통해 확률적 동역계에서 유도된 자유 에너지 원리(Free Energy Principle, FEP)에 대한 간결하면서도 엄밀한 기초를 제공한다. 이는 베이지안 추론과 변분 원리와 연결되며, 최적의 베이지안 추론을 통한 자가조직화의 규범적 프레임워크로 FEP를 설정한다. 이를 통해 인지적 시스템에서 인지와 행동을 활동적 추론(active inference)로 통합하여, 변분 자유 에너지 최소화에 기반한 정서적 존재의 물리학을 제시한다.

ABSTRACT

This paper provides a concise description of the free energy principle, starting from a formulation of random dynamical systems in terms of a Langevin equation and ending with a Bayesian mechanics that can be read as a physics of sentience. It rehearses the key steps using standard results from statistical physics. These steps entail (i) establishing a particular partition of states based upon conditional independencies that inherit from sparsely coupled dynamics, (ii) unpacking the implications of this partition in terms of Bayesian inference and (iii) describing the paths of particular states with a variational principle of least action. Teleologically, the free energy principle offers a normative account of self-organisation in terms of optimal Bayesian design and decision-making, in the sense of maximising marginal likelihood or Bayesian model evidence. In summary, starting from a description of the world in terms of random dynamical systems, we end up with a description of self-organisation as sentient behaviour that can be interpreted as self-evidencing; namely, self-assembly, autopoiesis or active inference.

연구 동기 및 목표

• 통계역학과 확률적 동역계로부터 자유 에너지 원리를 단순화하면서도 기술적으로 탄탄한 유도를 제공하기 위해.
• 희박하게 결합된 시스템에서 조건부 독립성의 구조가 자유 에너지 원리의 유도에 어떻게 기여하는지 명확히 하기 위해.
• 원리를 베이지안 추론과 변분 자유 에너지 최소화와 연결하여 자가조직화의 규범적 설명으로서의 역할을 설명하기 위해.
• 자가조직화를 활동적 추론로 프레임화하여, 베이지안 역학에 기반한 정서적 존재의 물리학을 가능하게 하기 위해.

제안 방법

• 랜주아ン 방정식로 기술된 랜덤 동역계로부터 자유 에너지 원리를 유도하기 위해.
• 동역계의 희박한 결합에서 유래된 조건부 독립성에 기반한 상태 분할을 식별하기 위해.
• 통계역학의 표준 결과를 적용하여 이러한 분할이 베이지안 추론에 미치는 영향을 분석하기 위해.
• 최소 작용 원리를 사용하여 특정 상태의 경로를 기술하기 위해.
• 모델 증거를 경계하는 변분 자유 에너지로 자유 에너지를 기술하여 최적의 추론을 가능하게 하기 위해.
• 유도된 동역계를 자가증명(self-evidencing), 자가생성(autopoietic), 또는 활동적 추론 과정으로 해석하기 위해.

실험 결과

연구 질문

• RQ1 표준 통계역학을 사용하여 확률적 동역계로부터 자유 에너지 원리를 어떻게 도출할 수 있는가?
• RQ2 조건부 독립성이 상태 공간의 분할에 기여하여 어떻게 베이지안 추론을 가능하게 하는가?
• RQ3 변분 자유 에너지 최소화가 동역계에서 최적의 자가조직화로 이어지는 방식은 무엇인가?
• RQ4 자기조직화를 활동적 추론 또는 자가증명으로 해석할 수 있는 의미는 무엇인가?
• RQ5 자유 에너지 원리는 어떻게 인지, 행동, 학습을 하나의 규범적 프레임워크로 통합하는가?

주요 결과

• 자유 에너지 원리는 랑주아ン 방정식로 기술된 희박하고 마르코프성 있는 동역계의 구조에서 자연스럽게 유도된다.
• 동역계 내 조건부 독립성은 공동 확률 분포의 인수분해를 가능하게 하여 베이지안 추론을 가능하게 한다.
• 변분 자유 에너지는 마진형 우도(모델 증거)의 경계를 제공하며, 최적의 모델 선택을 가능하게 한다.
• 변분 자유 에너지 최소화는 인지와 행동이 동일한 변분 원리에 의해 통합되는 활동적 추론에 해당한다.
• 이 프레임워크는 자가증명, 자가생성, 또는 정서적 행동으로서의 자가조직화를 규범적으로 설명할 수 있다.
• 유도된 동역계는 베이지안 역학과 일관되며, 통계적 추론에 기반한 정서적 존재의 물리학을 제공한다.