[論文レビュー] A Technical Critique of Some Parts of the Free Energy Principle

Martin Biehl, Felix A. Pollock+1 more|arXiv (Cornell University)|Jan 12, 2020

Advanced Thermodynamics and Statistical Mechanics参考文献 16被引用数 4

ひとこと要約

本稿は、自由エネルギー原理の元来の定式化における技術的欠陥を厳密に検討し、特に自由エネルギー補題の導出およびマルコフ・ブラケットの役割に焦点を当てる。反例を用いて、未明示の仮定がなければ補題が有効でないことを示し、文献間でのマルコフ・ブラケットの定義に一貫性の欠如を明らかにするとともに、ベイズ推論解釈が変分密度と遍歴密度の間の正当化されていない等価性に依存していることを示している。

ABSTRACT

We summarize the original formulation of the free energy principle, and highlight some technical issues. We discuss how these issues affect related results involving generalised coordinates and, where appropriate, mention consequences for and reveal, up to now unacknowledged, differences to newer formulations of the free energy principle. In particular, we reveal that various definitions of the "Markov blanket" proposed in different works are not equivalent. We show that crucial steps in the free energy argument which involve rewriting the equations of motion of systems with Markov blankets, are not generally correct without additional (previously unstated) assumptions. We prove by counterexample that the original free energy lemma, when taken at face value, is wrong. We show further that this free energy lemma, when it does hold, implies equality of variational density and ergodic conditional density. The interpretation in terms of Bayesian inference hinges on this point, and we hence conclude that it is not sufficiently justified. Additionally, we highlight that the variational densities presented in newer formulations of the free energy principle and lemma are parameterised by different variables than in older works, leading to a substantially different interpretation of the theory. Note that we only highlight some specific problems in the discussed publications. These problems do not rule out conclusively that the general ideas behind the free energy principle are worth pursuing.

研究の動機と目的

• 自由エネルギー原理の元来の定式化における技術的欠陥を特定・暴露すること、特に自由エネルギー補題の導出に関して。
• 異なる出版物における「マルコフ・ブラケット」の定義の不一致を明確にし、それらが同等でないことを示すこと。
• 内部ダイナミクスがベイズ推論に類似しているという主張が、補題における正当化されていない仮定により、厳密には正当化されていないことを示すこと。
• 新しい定式化が変分密度の異なるパrameterizationを用いることにより、理論的解釈が著しく異なることへの注意喚起。
• マーコフ・ブラケットを有する系が必然的にアクティブなベイズ推論を行うという主張に対するこれらの問題の影響を評価すること。

提案手法

• 文献[6]の元来の議論を段階的に再構築し、自由エネルギー補題の導出における論理的・数学的ギャップを特定する。
• 自由エネルギー補題の反例を構築し、追加の仮定がなければ一般には成り立たないことを証明する。
• ベクトル場のダイナミクスと負の遍歴密度の勾配との関係を分析し、追加の制約がなければ必要な再定式化が無効であることを示す。
• 動的依存性に基づくマーコフ・ブラケットの定式化（条件1）と、遍歴密度の統計的因数分解に基づく定式化（条件2）を比較し、それらの非同等性を明らかにする。
• ノイズ構造（ガウス分布、デルタ関数に依存する）の役割を検討し、標準的な導出が元来の研究で明示されていない仮定に依存していることを示す。
• 無限次元への一般化を用いてシステムのロバストネスをテストし、系が非マルコフ的または非ガウス的である場合には、議論が成立しなくなることを明らかにする。

実験結果

リサーチクエスチョン

• RQ1 自由エネルギー原理の元来の定式化における自由エネルギー補題は、追加の未明示仮定がなければ数学的に有効であるか？
• RQ2 動的依存性に基づく定義と統計的因数分解に基づく定義という、さまざまな文献で用いられるマーコフ・ブラケットの定義は同等か？
• RQ3 内部ダイナミクスがアクティブなベイズ推論を実行すると主張することは、元来の定式化から論理的に導かれるのか、それとも技術的欠陥によって損なわれているのか？
• RQ4 古くからの定式化と新しい定式化との間で変分密度のパrameterizationの違いが、自由エネルギー原理の解釈にどのように影響するか？
• RQ5 変分密度と遍歴条件付き密度との等価性はどのような条件下で成立するのか？この点がなぜベイズ推論解釈にとって重要であるか？

主な発見

• 元来の定式化における自由エネルギー補題は、追加の仮定がなければ誤りであり、反例によってその事実が示された。
• ベイズ推論解釈に不可欠な変分密度と遍歴条件付き密度の等価性は一般には成立せず、正当化されていない仮定を必要としている。
• 条件1（動的依存性に基づく）と条件2（統計的因数分解に基づく）のマーコフ・ブラケットの定義は同等ではなく、先行研究ではその関係が確立されていない。
• 内部座標がアクティブなベイズ推論を実行すると主張する議論は、自由エネルギー補題に依存しているが、この補題は一般には無効であるため、元論文の核心的主張が揺らぐ。
• 自由エネルギー原理の新しい定式化は、古くからの研究とは異なる変数で変分密度をパラメータ化しており、理論的解釈が著しく異なるものとなっている。
• 遍歴密度から勾配ダイナミクスを導出する標準的な導出では、デルタ関数に依存するノイズを仮定しているが、この仮定がなければ、主張されたように運動方程式を再定式化することはできない。