[논문 리뷰] Categorical Belief Propagation: Sheaf-Theoretic Inference via Descent and Holonomy

Enrique ter Horst, Sridhar Mahadevan외 1명|arXiv (Cornell University)|2026. 01. 08.

Advanced Graph Neural Networks인용 수 0

한 줄 요약

이 논문은 인자 그래프에서 신념 전파를 위한 범주적 프레임워크를 구축하고, 루프가 있는 추론을 섹터별 정확 계산으로 분해하는 홀로노미 기반 디센트를 도입하며 루프 차단(HATCC)으로 결정적 컴파일을 제시합니다.

ABSTRACT

We develop a categorical foundation for belief propagation on factor graphs. We construct the free hypergraph category \(\Syn_Σ\) on a typed signature and prove its universal property, yielding compositional semantics via a unique functor to the matrix category \(\cat{Mat}_R\). Message-passing is formulated using a Grothendieck fibration \(\int\Msg o \cat{FG}_Σ\) over polarized factor graphs, with schedule-indexed endomorphisms defining BP updates. We characterize exact inference as effective descent: local beliefs form a descent datum when compatibility conditions hold on overlaps. This framework unifies tree exactness, junction tree algorithms, and loopy BP failures under sheaf-theoretic obstructions. We introduce HATCC (Holonomy-Aware Tree Compilation), an algorithm that detects descent obstructions via holonomy computation on the factor nerve, compiles non-trivial holonomy into mode variables, and reduces to tree BP on an augmented graph. Complexity is \(O(n^2 d_{\max} + c \cdot k_{\max} \cdot δ_{\max}^3 + n \cdot δ_{\max}^2)\) for \(n\) factors and \(c\) fundamental cycles. Experimental results demonstrate exact inference with significant speedup over junction trees on grid MRFs and random graphs, along with UNSAT detection on satisfiability instances.

연구 동기 및 목표

• 신호-구문/의미/실행 분리를 자유로운 하이퍼그래프 범주를 사용하여 인자 그래프에 대한 신념 전파를 개발한다.
• 해석을 매트R에서의 합성으로 구성하는 Semantics를 정의하고, 구조를 SCFAs로 인코딩한다.
• 메시지 전달을 그래프 의존 메시지 공간을 포착하기 위한 Grothendieck Fibration으로 모델링한다.
• BP 업데이트의 불변성을 드러내기 위해 게이지-평등성과 단순복합구조를 도입한다.
• Descent 방해를 탐지하고 추론을 트리와 유사한 부분 문제로 축소하기 위한 Holonomy-Aware Tree Compilation(HATCC)을 제시한다.

제안 방법

• factor-graph 추론을 위한 Typed 시그니처에서 자유 하이퍼그래프 범주로 SynΣ를 구성한다.
• 합성으로 Finite Elimination으로써 MatR에서 SynΣ를 평가하여 Semantics를 해석한다.
• 스케줄-인덱스 엔도모르피즘을 가진 극화된 인자 그래프 위의 메시지 공배를 실행으로 BP 실행을 형식화한다.
• 게이지 전파 맵 ΘG에 따른 BP의 게이지 동등성을 확립하여 해석과 실행을 분리한다.
• Cover를 따라 로컬 의미에서 글로벌 의미로의 Descent를 정의하고 유한 상태 공간이 적용될 때의 효과적 Descent를 형식화한다.
• Holonomy 생성기를 계산하고, 궤도 구조를 식별하며 루프가 있는 추론을 섹터별 트리 BP로 분해하기 위한 HATCC를 제시한다.

실험 결과

연구 질문

• RQ1 범주적 프레임워크에서 신념 전파에 대해 보편적인 구문-의미-실행 분리를 어떻게 부여할 수 있는가?
• RQ2 홀로노미 기반의 하향을 통해 루프 BP를 항상 정확하게 보장하거나 정확한 부분 문제로 분해할 수 있는가?
• RQ3 홀로노미가 하향을 어떻게 방해하거나 가능하게 하는지, 그리고 이 방해를 어떻게 컴파일하여 다루기 쉬운 부분문제로 만들 수 있는가?
• RQ4 BP에서 게이지 대칭의 역할은 무엇이며, 게이지 등가성 하에서 투사적 BP는 어떻게 동작하는가?
• RQ5 결정적인 컴파일(HATCC)이 루프가 있는 추론을 트리 타입의 유한 혼합으로 보장과 함께 변환할 수 있는가?

주요 결과

• 신념 전파는 메시지 공간에서 다항식 엔도모orphism으로 형식화될 수 있으며, 고정점은 주변 확률(marginals)과 대응한다.
• BP는 게이지 전파 맵에 대해 부분 동등적(semi-equivariant)으로 작동하여 프로젝트적 메시지 공간으로의 하향 및 게이지 독립적 신념으로의 분리를 가능하게 한다.
• 정확한 추론은 효과적 descent로 특징지어지며, 유한 커버에서 항상 descent가 가능하다; 트리와 Junction-tree 유사 분해는 특수한 경우이다.
• Holonomy(전역 회로 운반)가 descent를 방해한다; HATCC는 Holonomy를 탐지하고 이를 모드 변수로 컴파일하며 추론을 섹터별 트리 BP로 축소한다.
• 실험은 격자 MRF와 무작위 그래프에서 교차 트리 대비 정확한 추론과 속도 향상을 보여주고, SAT 인스턴스에서 UNSAT 탐지를 확인한다(주장대로).