[논문 리뷰] A technical critique of the free energy principle as presented in "Life as we know it" and related works

Martin Biehl, Felix A. Pollock외 1명|arXiv (Cornell University)|2020. 01. 12.

Statistical Mechanics and Entropy참고 문헌 15인용 수 10

한 줄 요약

이 논문은 프리스턴(2013) 및 관련 연구에서 제시된 자유 에너지 원리(FEP)를 비판적으로 검토하며, 마르코프 블랭킷에서 베이지안 추론을 유도하는 과정에서 발생하는 세 가지 형식적 오류를 규명한다. 연구는 변분 조건부 밀도와 에르고딕 조건부 밀도 사이의 주장된 동치성은 일반적으로 성립하지 않음을 보이며, 이는 자가해명 시스템이 베이지안 추론을 수행한다는 핵심적 해석을 약화시킨다.

ABSTRACT

We summarize the argument in Friston (2013, https://doi.org/10.1098/rsif.2013.0475) and highlight some technical errors. We also discuss how these errors affect the very similar Friston (2014, https://doi.org/10.1109/JPROC.2014.2306251) and, where appropriate, mention consequences for the newer proposals in Friston (2019, arXiv:1906.10184v1 ) and Parr et al. (2019, https://royalsocietypublishing.org/doi/full/10.1098/rsta.2019.0159). The errors call into question the purported interpretation that the internal coordinates of every system with a Markov blanket will appear to engage in Bayesian inference. In particular, in addition to highlighting the implicit restriction to linear models, we identify three formal errors in the main argument of Friston (2013): The first concerns the rewriting of the equations of motion of systems with Markov blankets which turns out not to be generally correct. We prove the non-equivalence with a counterexample that exhibits a Markov blanket but does not satisfy the rewritten equations. Our counterexample also invalidates the corresponding (but more general) rewritten equations in the more recent Friston (2019). The second error concerns the Free Energy Lemma itself, which we prove, by counterexample, to be wrong in general. The third is the claim that the Free Energy Lemma, when it does hold, implies equality of variational density and ergodic conditional density. The interpretation in terms of Bayesian inference hinges on this point, and we hence conclude that it is unjustified. Additionally, we highlight that the definitions of the Markov blanket in Friston (2013) and Parr et al. (2019) are not equivalent and that the assumptions in Parr et al. (2019) may be too strong to allow for meaningful interpretation.

연구 동기 및 목표

• 프리스턴(2013)에서 제시된 자유 에너지 원리 유도 과정의 기술적 결함을 규명하고 수정하는 것.
• 자유 에너지 렘마의 타당성과 마르코프 블랭킷을 가진 시스템에서의 베이지안 추론에 미치는 영향을 평가하는 것.
• 프리스턴(2013), 프리스턴(2019), 페어르 등(2019)에서의 마르코프 블랭킷 정의가 일관되고 일반적인지 평가하는 것.
• 변분 밀도와 에르고딕 조건부 밀도 사이의 주장된 동치성이 수학적으로 정당화되는지 여부를 규명하는 것.

제안 방법

• 마르코프 블랭킷을 가진 시스템의 운동 방정식을 재작성한 결과가 일반적으로 성립하지 않는 반례를 구성하여, 이들의 비동치성을 입증하는 것.
• 자유 에너지 렘마가 일반적으로 잘못되었음을 입증하기 위해, 렘마의 조건은 충족되나 결론이 성립하지 않는 반례를 구성하는 것.
• 변분 밀도와 에르고딕 조건부 밀도 사이의 주장된 동치성을 분석하여, 이가 렘마로부터 유도되지 않음을 보이는 것.
• 프리스턴(2013)과 페어르 등(2019)에서의 마르코프 블랭킷 정의를 비교하여, 상호 비등가성과 잠재적인 과도한 제약 조건을 드러내는 것.
• 프리스턴(2019)과 페어르 등(2019)으로의 비판을 확장하여, 동일한 오류들이 새로운 형태에서도 그대로 유지됨을 보이는 것.
• 형식적 수학적 추론을 사용하여, FEP의 기초가 되는 가정들이 일반 시스템에서의 베이지안 추론 해석을 뒷받침하지 못함을 입증하는 것.

실험 결과

연구 질문

• RQ1 마르코프 블랭킷을 가진 시스템의 운동 방정식 재작성은 일반적으로 성립하는가, 아니면 실패하는 반례가 존재하는가?
• RQ2 자유 에너지 렘마는 일반적으로 타당한가, 아니면 특정 경우에 성립하지 않는가?
• RQ3 자유 에너지 렘마는 일반 조건 하에서 변분 밀도와 에르고딕 조건부 밀도의 동치성을 암시하는가?
• RQ4 프리스턴(2013)과 페어르 등(2019)에서의 마르코프 블랭킷 정의는 동치인가, 아니면 핵심적으로 다를가?
• RQ5 FEP 유도 과정에서 발견된 형식적 오류는 마르코프 블랭킷을 가진 모든 시스템이 베이지안 추론을 수행한다는 주장의 타당성을 약화시키는가?

주요 결과

• 마르코프 블랭킷을 가지나 재작성된 운동 방정식을 만족하지 않는 반례를 구성하여, 이 변환의 일반적 타당성이 무너짐을 입증한다.
• 자유 에너지 렘마가 일반적으로 잘못되었음을 입증하였으며, 렘마의 조건은 충족되나 결론이 성립하지 않는 반례를 제시하였다.
• 변분 밀도와 에르고딕 조건부 밀도 사이의 주장된 동치성이 렘마로부터 유도되지 않음을 보이며, FEP의 베이지안 해석에 대한 기초를 약화시킨다.
• 프리스턴(2013)과 페어르 등(2019)에서의 마르코프 블랭킷 정의는 동치가 아니며, 후자는 더 강력한 가정을 도입하여 적용 범위를 제한할 수 있음이 드러났다.
• 프리스턴(2013)에서 발견된 오류들이 프리스턴(2019)의 해당 방정식들 역시 무효화하므로, FEP 프레임워크의 광범위한 일반성에 의문을 제기한다.