[논문 리뷰] Predictions in the eye of the beholder: an active inference account of Watt governors

Manuel Baltieri, Christopher L. Buckley외 1명|arXiv (Cornell University)|2020. 06. 20.

Embodied and Extended Cognition참고 문헌 60인용 수 30

한 줄 요약

이 논문은 변분 자유 에너지 최소화를 통한 예측 오차 최소화로 행동하는 것으로 간주되는 와트 원심조절기의 행동을 기반으로 활동적 추론 체계로 재구성한다. 이를 위해 예측 오차 최소화를 통해 행동하는 것으로 간주되는 와트 원심조절기의 행동을 기반으로 활동적 추론 체계로 재구성한다. 이는 생성 모델을 내부 표현으로 보는 관념을 도전하며, 대신 관찰자에게 사용 가능한 지식적 도구로 생성 모델을 보는 것으로 주장한다. 또한 활동적 추론이 강력한 표현주의 철학적 철학적 약속 없이도 수학적으로 일관되고 실용적인 인지 모델링의 프레임워크를 제공할 수 있음을 보여준다.

ABSTRACT

Active inference introduces a theory describing action-perception loops via the minimisation of variational (and expected) free energy or, under simplifying assumptions, (weighted) prediction error. Recently, active inference has been proposed as part of a new and unifying framework in the cognitive sciences: predictive processing. Predictive processing is often associated with traditional computational theories of the mind, strongly relying on internal representations presented in the form of generative models thought to explain different functions of living and cognitive systems. In this work, we introduce an active inference formulation of the Watt centrifugal governor, a system often portrayed as the canonical "anti-representational" metaphor for cognition. We identify a generative model of a steam engine for the governor, and derive a set of equations describing "perception" and "action" processes as a form of prediction error minimisation. In doing so, we firstly challenge the idea of generative models as explicit internal representations for cognitive systems, suggesting that such models serve only as implicit descriptions for an observer. Secondly, we consider current proposals of predictive processing as a theory of cognition, focusing on some of its potential shortcomings and in particular on the idea that virtually any system admits a description in terms of prediction error minimisation, suggesting that this theory may offer limited explanatory power for cognitive systems. Finally, as a silver lining we emphasise the instrumental role this framework can nonetheless play as a mathematical tool for modelling cognitive architectures interpreted in terms of Bayesian (active) inference.

연구 동기 및 목표

• 표준적인 반대표현주의 시스템으로 여겨지는 와트 조절기를 변분 자유 에너지 최소화를 통해 활동적 추론 과정으로 재구성하고자 한다.
• 예측 처리에서 생성 모델이 반드시 인지 시스템 내부의 명시적 표현이어야 한다는 가정을 도전하고자 한다.
• 활동적 추론과 예측 처리가 인지의 통합 이론으로서의 설명력을 어떻게 제공하는지 평가하고자 한다.
• 활동적 추론이 내부 표현에 대한 철학적 약속 없이도 감각운동 루프를 모델링하는 공식적이고 실용적인 프레임워크로 기능할 수 있음을 보여주고자 한다.
• 역동적 시스템 이론과 활동적 추론을 조율하기 위해, 조절기에서의 피드백 조절이 추론 원리에서 어떻게 유도되는지 보여주고자 한다.

제안 방법

• 외부 관찰자의 관점에서 와트 조절기의 선형 확률적 생성 모델을 수립하였으며, 은닉 상태(예: 플라이볼 각도, 각속도)와 관측치(예: 밸브 위치, 엔진 속도)를 정의하였다.
• 변분 자유 에너지에 기반한 비용 기능을 유도하였으며, 감각 입력과 생성 모델 예측 간의 예측 오차를 나타내었다.
• 과다진동(damped) 동역학 가정을 적용하여 시스템을 단순화하고 평형점 근처에서 선형화된 조절기 동역학 모델과 동치가 되는 방정식을 유도하였다.
• 가우시안 및 마코프 가정을 사용하여 근사 베이지안 추론과 자유 에너지 최소화를 통한 행동 선택을 가능하게 하였다.
• 유도된 방정식을 기존 제어 이론적 기술과 연결하여 고전적 역동적 시스템 분석과의 일관성을 보였다.
• 생성 모델의 역할을 정신적 표현이 아닌, 불확실성과 시스템 특성 모델링을 위한술술 기술적 서술 도구로 재해석하였다.

실험 결과

연구 질문

• RQ1 와트 조절기—일반적으로 반대표현주의 시스템으로 언급되는 시스템—이 활동적 추론과 변분 자유 에너지 최소화를 통해 공식적으로 기술될 수 있는가?
• RQ2 활동적 추론에서 생성 모델이 내부 표현으로서의 기능을 하는 정도는 어느 정도이며, 아니면 관찰자에게만 유용한 지식적 도구일 뿐인가?
• RQ3 활동적 추론 프레임워크는 인지 시스템에 진정으로 설명력을 제공하는가, 아니면 어떤 시스템에도 비어나게 적용 가능한가?
• RQ4 기존의 역동적 시스템 이론 분석과 비교했을 때, 조절기의 활동적 추론 기반 기술은 서술적 적합성 측면에서 어떻게 다른가?
• RQ5 강력한 내부 표현 철학적 약속 없이도 활동적 추론이 인지의 통합 수학적 프레임워크로 기능할 수 있는가?

주요 결과

• 활동적 추론 기반 기술은 표준 가정 하에서 와트 조절기의 선형화된 운동 방정식을 성공적으로 재현하였으며, 고전적 제어 이론과의 일관성을 입증하였다.
• 유도 과정은 엔진 속도를 음성 피드백을 통해 조절하는 시스템의 행동이 예측 오차 최소화에서 자연스럽게 유도됨을 보여주었으며, 명시적 계산이나 오프라인 추론이 필요하지 않음을 확인하였다.
• 이 프레임워크에서 생성 모델은 시스템 내부의 표현이 아니라, 관찰자가 불확실성과 시스템 역학을 모델링하기 위해 사용하는 지식적 구성물이다.
• 논문은 인지 시스템 내부의 실제 상태를 반영한다고 가정하는 '마음 투영 오류'를 지적하며, 이러한 모델이 관찰자에 따라 달라지는 서술적 기술임을 주장한다.
• 활동적 추론은 내부 표현이 없는 시스템이라도 수학적으로 일관되고 실용적인 인지 모델링 프레임워크를 제공한다.
• 이 프레임워크는 추론과 행동이 변분 자유 에너지 최소화 원리 하나로 통합될 수 있음을 보여줌으로써, 예측 처리를 몸체화된 접근과 역동적 접근과 조율한다.