[논문 리뷰] What does the free energy principle tell us about the brain?

Samuel J. Gershman|arXiv (Cornell University)|2019. 01. 23.

Neuroscience, Education and Cognitive Function인용 수 5

한 줄 요약

이 논문은 뇌 기능의 통합적 프레임워크로서 자유 에너지 원리(Free Energy Principle, FEP)를 명확히 하여, 특정 가정 하에서 베이지안 추론, 예측 코딩, 활동적 추론으로 수렴됨을 보여준다. FEP의 독특한 예측은 정확한 사후 추론, 결정론적 결과, 또는 효용-로그확률 대응 등의 가정이 표준 모델과 다를 때에만 나타나며, 이는 대체 이론과의 사전 검증 가능한 차이를 가능하게 한다.

ABSTRACT

The free energy principle has been proposed as a unifying account of brain function. It is closely related, and in some cases subsumes, earlier unifying ideas such as Bayesian inference, predictive coding, and active learning. This article clarifies these connections, teasing apart distinctive and shared predictions.

연구 동기 및 목표

• 자유 에너지 원리(Free Energy Principle, FEP)의 이론적 주장들을 명확히 하고, 베이지안 추론 및 예측 코딩과 같은 관련 이론들과 이를 구분한다.
• FEP가 고유한, 사전 검증 가능한 예측을 하는 특정 가정을 규명한다. 이는 순환 논리에 빠지는 원리가 아니라, 실제 검증 가능한 예측을 가능하게 한다.
• 가정을 분해하고 이를 검증 가능한 신경 및 행동 예측과 연결함으로써 FEP의 경험적 신뢰성을 평가한다.
• 정보 수익 정책이나 베이지안 의사결정 이론과 같은 표준 모델과 다를 때 FEP가 어떻게 다름을 평가한다.
• 정확한 추론이나 효용-로그확률 대응 등의 가정이 위배될 경우에만 FEP가 독특한 기여를 한다는 것을 입증한다.

제안 방법

• 자유 에너지 원리(Free Energy Principle, FEP)의 핵심 구성요소인 생성 모델, 변분 추론, 자유 에너지 최소화를 분석함으로써 FEP를 분해한다.
• 베이즈 정리 $ p(s|o) = \frac{p(o|s)p(s)}{p(o)} $ 를 사용하여 FEP를 베이지안 뇌 가설과 비교함으로써, 변분 가족이 정확한 사후분포를 포함할 경우 동치임을 보여준다.
• 예측 코딩이 FEP의 특수한 경우임을 분석함. 이는 제한된 변분 가족과 특정 최적화 방법에 기반한다.
• 기대 자유 에너지 $ \mathcal{G} $ 를 통한 활동적 추론을 분석하고, 정보 수익 $ \mathcal{I} $ 와 대비함. 특히 관측이 확률적일 경우와 결정론적일 경우를 비교한다.
• 계획은 추론 프레임워크를 적용하여 효용을 로그 사전 확률로 해석함: $ u(o) = \log p(o|\pi) $, 이를 통해 FEP를 베이지안 의사결정 이론과 연결한다.
• 쿨백-라이블러 발산 $ \mathcal{D}[p(s|o,\pi) \| p(s|\pi)] $ 을 사용하여 활동적 추론에서 정보 수익과 지식적 가치를 수학적으로 기술한다.

실험 결과

연구 질문

• RQ1 자유 에너지 원리(Free Energy Principle, FEP)가 베이지안 뇌 가설과 다를 수 있는 조건은 무엇인가?
• RQ2 예측 코딩이 자유 에너지 원리의 결과로 나타나기 위해서는 어떤 가정이 필요한가? 그리고 언제 발생하는가?
• RQ3 관측이 확률적일 경우, 활동적 추론은 순수한 정보 수익 정책과 어떻게 다를까?
• RQ4 FEP가 표준 베이지안 의사결정 이론과 다를 수 있는 상황는 언제이며, 그 경험적 함의는 무엇인가?
• RQ5 계획은 추론 해석이 FEP를 베이지안 의사결정 이론의 표기적 변형으로 간주할 수 있는 정도는 어느 정도이며, 언제 새로운 예측을 도출하는가?

주요 결과

• 변분 가족이 정확한 사후분포를 포함할 경우, 자유 에너지 최소화는 정확한 베이지안 추론과 동치이며, 이는 수동 관찰 설정에서 FEP가 베이지안 뇌 가설과 구분되지 않는다는 것을 의미한다.
• 예측 코딩은 변분 가족의 특정 제약 조건과 특정 최적화 방법에 의해서만 나타나며, FEP의 일반적 결과는 아니다.
• 활동적 추론에서 사후분포가 정확하고 결과가 결정론적일 경우, FEP는 정보 수익 정책으로 축소된다. 그러나 관측이 확률적일 경우, FEP는 정보 수익만으로는 기술할 수 없는 위험 회피적 행동을 유도한다.
• 효용을 로그 사전확률로 해석할 경우, FEP는 계획은 추론로 축소되며, 이는 베이지안 효용 최적화의 한 형태로서 표준 베이지안 의사결정 이론과 예측이 동일시된다.
• FEP는 효용이 로그 확률과 대응하지 않을 경우, 또는 알고리즘 근사나 신경 구현이 표준 모델과 다를 경우에만 독특한 예측을 한다.
• 이론의 경험적 검증 가능성은 생성 모델의 구조, 변분 근사의 정확도, 행동-결과 의존성의 성격과 같은 기본 가정을 검증하는 데 달려 있다.