[논문 리뷰] A Technical Critique of Some Parts of the Free Energy Principle

Martin Biehl, Felix A. Pollock외 1명|arXiv (Cornell University)|2020. 01. 12.

Advanced Thermodynamics and Statistical Mechanics참고 문헌 16인용 수 4

한 줄 요약

이 논문은 자유 에너지 원리의 원래 공식화에서 기술적 결함을 철저히 분석한다. 특히 자유 에너지 보조정리의 유도 과정과 마르코프 블랭킷의 역할에 초점을 맞추며, 추가로 명시되지 않은 가정이 없이 보조정리가 일반적으로 성립하지 않음을 반례를 통해 입증한다. 또한 문헌 간 마르코프 블랭킷 정의의 일관성 문제를 드러내며, 베이지안 추론 해석이 변분 밀도와 에르고딕 조건부 밀도 간의 정당화되지 않은 등식에 의존하고 있음을 보여준다.

ABSTRACT

We summarize the original formulation of the free energy principle, and highlight some technical issues. We discuss how these issues affect related results involving generalised coordinates and, where appropriate, mention consequences for and reveal, up to now unacknowledged, differences to newer formulations of the free energy principle. In particular, we reveal that various definitions of the "Markov blanket" proposed in different works are not equivalent. We show that crucial steps in the free energy argument which involve rewriting the equations of motion of systems with Markov blankets, are not generally correct without additional (previously unstated) assumptions. We prove by counterexample that the original free energy lemma, when taken at face value, is wrong. We show further that this free energy lemma, when it does hold, implies equality of variational density and ergodic conditional density. The interpretation in terms of Bayesian inference hinges on this point, and we hence conclude that it is not sufficiently justified. Additionally, we highlight that the variational densities presented in newer formulations of the free energy principle and lemma are parameterised by different variables than in older works, leading to a substantially different interpretation of the theory. Note that we only highlight some specific problems in the discussed publications. These problems do not rule out conclusively that the general ideas behind the free energy principle are worth pursuing.

연구 동기 및 목표

• 자유 에너지 원리의 원래 공식화에서 기술적 결함을 특정하고 폭 드러내며, 특히 자유 에너지 보조정리 유도 과정에서의 문제점을 분석한다.
• 다양한 논문들에서 사용되는 '마르코프 블랭킷' 정의 간의 모순을 명확히 하여, 이들이 상호 동치가 아님을 보여준다.
• 내부 역학이 베이지안 추론을 수행한다는 주장이 보조정리의 정당화되지 않은 가정에 기반하여 엄밀히 증명되지 않았음을 입증한다.
• 최신 공식화에서 변분 밀도의 매개변수화 방식이 이전 공식화와 다름을 통해 이론적 해석이 상당히 달라졌음을 강조한다.
• 마르코프 블랭킷을 갖는 시스템이 반드시 능동적 베이지안 추론을 수행한다는 광범위한 주장에 이러한 문제들이 미치는 영향을 평가한다.

제안 방법

• 논문 [6]의 원래 추론을 단계별로 재구성하여 자유 에너지 보조정리 유도 과정에서 발생하는 논리적·수학적 빈자리들을 규명한다.
• 자유 에너지 보조정리의 반례를 구성함으로써, 추가 가정 없이 일반적으로 성립하지 않음을 증명한다.
• 벡터장 역학과 음의 에르고딕 밀도 로그의 기울기 간의 관계를 분석하여, 추가 제약 조건 없이 해당 재작성 방식이 타당하지 않음을 보여준다.
• 다양한 마르코프 블랭킷 공식화를 비교한다: 하나는 역학적 의존성 기반(조건 1), 다른 하나는 에르고딕 밀도의 통계적 인수분해 기반(조건 2)이며, 이 둘 간의 동치성이 아님을 드러낸다.
• 노이즈 구조(정규분포, 델타-관련)의 역할을 분석하여, 표준 유도 과정이 원래 논문에서 명시되지 않은 가정에 의존하고 있음을 보여준다.
• 시스템을 무한차원으로 일반화하여 보조정리의 탄력성을 시험하고, 비마르코프성 또는 비정규성 조건에서 주장이 성립하지 않음을 드러낸다.

실험 결과

연구 질문

• RQ1 자유 에너지 원리의 원래 공식화에서 자유 에너지 보조정리는 추가로 명시되지 않은 가정 없이도 수학적으로 타당한가?
• RQ2 다양한 논문들에서 사용되는 마르코프 블랭킷 정의—특히 역학적 의존성 기반과 통계적 인수분해 기반 정의—는 상호 동치인가?
• RQ3 내부 역학이 능동적 베이지안 추론을 수행한다는 주장은 원래 공식화에서 논리적으로 도출되는가, 아니면 기술적 결함으로 약화되는가?
• RQ4 이전 공식화와 최신 공식화 간의 변분 밀도 매개변수화 방식의 차이는 자유 에너지 원리의 해석에 어떤 영향을 미치는가?
• RQ5 변분 밀도와 에르고딕 조건부 밀도 간의 등식이 성립하는 조건은 무엇이며, 왜 이는 베이지안 추론 해석에 핵심적인가?

주요 결과

• 원래 공식화에서 제시된 자유 에너지 보조정리는 추가 가정이 없이 잘못되었으며, 반례를 통해 이를 입증하였다.
• 베이지안 추론 해석에 필수적인 변분 밀도와 에르고딕 조건부 밀도 간의 등식은 일반적으로 성립하지 않으며, 정당화되지 않은 가정이 필요하다.
• 조건 1(역학적 의존성 기반)과 조건 2(통계적 인수분해 기반)의 마르코프 블랭킷 정의는 상호 동치가 아니며, 이들 간의 관계는 이전 연구에서 규명되지 않았다.
• 내부 좌표가 능동적 베이지안 추론을 수행한다는 주장은 자유 에너지 보조정리에 의존하며, 이 보조정리는 일반적으로 타당하지 않기 때문에 원래 논문의 核심 주장을 약화시킨다.
• 최신 공식화에서는 이전 논문들과는 다름 방식의 변수로 변분 밀도를 매개변수화하여 이론적 해석이 상당히 달라졌다.
• 에르고딕 밀도로부터 기울기 역학을 도출하는 표준 유도 과정은 델타-관련 노이즈를 가정한다; 이러한 가정이 없이서는 제시된 바와 같이 운동 방정식을 재작성할 수 없다.