[论文解读] Categorical Belief Propagation: Sheaf-Theoretic Inference via Descent and Holonomy

Enrique ter Horst, Sridhar Mahadevan+1 more|arXiv (Cornell University)|Jan 8, 2026

Advanced Graph Neural Networks被引用 0

一句话总结

本论文为因子图上的信念传播建立了一个范畴框架，提出基于全变差的降维将循环推理分解为扇区级的严格精确计算，并给出循环干扰的确定性编译（HATCC）

ABSTRACT

We develop a categorical foundation for belief propagation on factor graphs. We construct the free hypergraph category \(\Syn_Σ\) on a typed signature and prove its universal property, yielding compositional semantics via a unique functor to the matrix category \(\cat{Mat}_R\). Message-passing is formulated using a Grothendieck fibration \(\int\Msg o \cat{FG}_Σ\) over polarized factor graphs, with schedule-indexed endomorphisms defining BP updates. We characterize exact inference as effective descent: local beliefs form a descent datum when compatibility conditions hold on overlaps. This framework unifies tree exactness, junction tree algorithms, and loopy BP failures under sheaf-theoretic obstructions. We introduce HATCC (Holonomy-Aware Tree Compilation), an algorithm that detects descent obstructions via holonomy computation on the factor nerve, compiles non-trivial holonomy into mode variables, and reduces to tree BP on an augmented graph. Complexity is \(O(n^2 d_{\max} + c \cdot k_{\max} \cdot δ_{\max}^3 + n \cdot δ_{\max}^2)\) for \(n\) factors and \(c\) fundamental cycles. Experimental results demonstrate exact inference with significant speedup over junction trees on grid MRFs and random graphs, along with UNSAT detection on satisfiability instances.

研究动机与目标

• 为因子图上的信念传播建立一个通用的语法/语义/执行分离，采用自由超图范畴。
• 通过半环参数化消除到MatR来定义语义，并用SCFAs编码结构。
• 将消息传递建模为Grothendieck纤维丛，以捕捉图依赖的消息空间。
• 引入规范不变性和简单复形结构，揭示BP更新中的不变性。
• 提出Holonomy-Aware Tree Compilation（HATCC），以检测下降挫阻并将推理简化为树状子问题。

提出的方法

• 从带类型签名的因子图推理出自由超图范畴SynΣ的构造。
• 通过在MatR中对SynΣ进行组合来解释语义，使用有限消去来实现。
• 将BP执行表述为带有计划-索引自同态的极化因子图上的消息纤维丛。
• 建立BP在规范传播映射ΘG下的规范等变性，以将语义与执行分离。
• 定义局部语义在覆盖上的全局语义的下降，并在有限状态空间时形式化有效下降。
• 提出HATCC以计算全同态生成元，识别轨道结构，并将环路推理分解为扇区级树问题。

实验结果

研究问题

• RQ1 在范畴框架中，如何实现信念传播的通用语法-语义-执行分离？
• RQ2 通过基于全变差的下降，何时可以保证循环BP的精确性或分解为精确子问题？
• RQ3 全变差如何阻碍或促进下降，如何将这种阻碍编译为可处理的子问题？
• RQ4 BP中的规范对称性扮演何种角色，投影BP在规范等价下的行为如何？
• RQ5 确定性编译（HATCC）是否能将循环推理转化为对树状计算的有限混合并带有保证？

主要发现

• 信念传播可以被表述为消息空间上的多项式自同态，其不动点对应边缘概率。
• BP在规范传播映射下具备半等变性，使下降到投影消息空间和规范无关的信念成为可能。
• 精确推断被表征为有效下降，在有限覆盖下下降总是可能；树形和结点树样分解是特殊情况。
• 全局循环传输的Holonomy阻碍下降；HATCC检测Holonomy，将其编译为模变量，并将推理降至扇区级的树BP。
• 实验表明在网格MRF和随机图上，精确推断比结点树有速度提升；在SAT实例上实现未定性检测（如所 claimed））。