[논문 리뷰] A Unified Dynamical Field Theory of Learning, Inference, and Emergence

Byung Gyu Chae|arXiv (Cornell University)|2026. 01. 15.

Neural dynamics and brain function인용 수 0

한 줄 요약

이 논문은 학습, 추론, 출현에 대한 통일된 확률적 다이나믹 필드 이론을 개발하여, 추론을 saddle-point 궤적으로, 출현을 느린 집단 모드를 만들어내는 루프 보정을 통해 설명한다. 이는 에너지 기반 모델, RNNs, transformers, 그리고 homeostatic dynamics를 단일 기하학적 프레임워크 아래로 통합한다.

ABSTRACT

Learning, inference, and emergence in biological and artificial systems are often studied within disparate theoretical frameworks, ranging from energy-based models to recurrent and attention-based architectures. Here we develop a unified dynamical field theory in which learning and inference are governed by a minimal stochastic dynamical equation admitting a Martin--Siggia--Rose--Janssen--de Dominicis formulation. Within this framework, inference corresponds to saddle-point trajectories of the associated action, while fluctuation-induced loop corrections render collective modes dynamically emergent and generate nontrivial dynamical time scales. A central result of this work is that cognitive function is controlled not by microscopic units or precise activity patterns, but by the collective organization of dynamical time scales. We introduce the \emph{time-scale density of states} (TDOS) as a compact diagnostic of the distribution of collective relaxation modes governing inference dynamics. Learning and homeostatic regulation are naturally interpreted as processes that reshape both the effective potential and the underlying state-space geometry, thereby reorganizing the TDOS and selectively stabilizing slow collective modes that support stable inference, memory, and context-dependent computation despite stochasticity and structural irregularity. This framework unifies energy-based models, recurrent neural networks, transformer architectures, and biologically motivated homeostatic dynamics within a single physical description, and provides a principled route toward understanding cognition as an emergent dynamical phenomenon.

연구 동기 및 목표

• 생물학적 및 인공지능 시스템 전반에 걸친 학습, 추론, 출현에 대한 원칙적이고 통합된 프레임워크를 마련한다.
• 고차원적 집단 신경 상태를 지배하는 최소한의 확률적 다이나믹 방정식을 설명한다.
• MSRJD 경로 적분 형식에서 ∂S/∂x̃ = 0인 상태로부터 추론 궤적을 도출한다.
• 루프 보정을 통해 emergent collective modes를 생성하고 시간 척도를 재구성하는 방식을 시연한다.
• 학습이 포텐셜 지형과 상태 공간 기하를 재형성하여 느린 모드를 안정화시키는 방식으로 작동함을 보인다.

제안 방법

• 집합 상태에 대한 최소한의 확률적 다이내믹 방정식 제시: ẋ = -G^{-1}(x) ∇Φ(x) + R(x) + ξ(t).
• 다이나믹스를 Martin–Siggia–Rose–Janssen–de Dominicis (MSRJD) 경로 적분으로 표현하고 작용 S[x, x̃]를 도출한다.
• MSRJD 작용으로부터 ∂S/∂x̃ = 0인 상태에서 saddle-point(추론) 궤적을 도출한다.
• 루프 보정을 통해 궤적 주위의 이변을 분석하여 emergent collective modes를 드러낸다.
• time-scale density of states (TDOS)를 도입하여 Relaxation 모드의 분포를 진단한다.
• 학습이 Φ, G, R을 느리게 구조적으로 적응시키며 TDOS를 재구성함으로써 안정적인 추론을 촉진한다.

Figure 1: Conceptual overview of the unified dynamical field theory. (a) Collective neural states evolve on a learned state-space geometry, shaped by an effective potential $\Phi(x)$ , a state-dependent metric $G(x)$ , non-conservative reentrant flows $R(x)$ , and stochastic fluctuations $\xi(t)$ .

실험 결과

연구 질문

• RQ1 학습, 추론, 출현을 하나의 확률적 다이나믹 프레임워크 내에서 어떻게 기술할 수 있는가?
• RQ2 이 프레임워크에서 추론은 saddle-point 궤적에 어떻게 대응하며, 변화들은 어떻게 emergent time scale을 만들어내는가?
• RQ3 유효 포텐셜, 기하학, 재진입 흐름이 집단 역학과 TDOS를 형성하는 데 어떤 역할을 하는가?
• RQ4 여러 canonical 모델(Hopfield 네트워크, RNNs, Transformers, 항상성 재진입 네트워크)을 통일 이론의 극한으로 도출할 수 있는가?
• RQ5 학습이 시간 규모 스펙트럼을 어떻게 재구성하여 안정적인 기억, 맥락 의존 계산, 견고한 추론을 지원하는가?

주요 결과

• Inference는 MSRJD 작용의 saddle-point 궤적으로, 즉 학습된 다이나믹스 하에서 가장 확률 높은 경로로 나타난다.
• 플럭튜에이션 루프 보정은 재규격화된 자기에너지에 의해 느리고 집단적인 모드와 시간 척도를 생성한다.
• TDOS는 학습이 집단적 이완 모드를 어떻게 재구성하고 느린 다이나믹스를 안정화하는지에 대한 간략한 진단 도구를 제공한다.
• 학습은 Φ, G, R의 느린 구조적 적응으로 작용하여 시간 스케일 분포를 재구성하고 견고한 추론을 촉진한다.
• 특정 한계에서 Hopfield 네트워크, RNNs, Transformers, 그리고 항상성 재진입 네트워크가 통일 이론의 결과로 도출된다.
• Neurotons은 emergent 계산과 기억을 운반하는 자기 생성 집단 이완 모드로 제안된다.

Figure 2: Recurrent versus reentrant neural architectures. (a) Recurrent architectures update a latent hidden state sequentially in time. The recurrence operates through discrete or implicit temporal state updates, while the underlying representation space and geometry remain fixed. Temporal depende