[论文解读] Factor Graph Neural Networks

Zhen Zhang, Dupty, Mohammed Haroon+3 more|arXiv (Cornell University)|Aug 2, 2023

Advanced Graph Neural Networks被引用 18

一句话总结

本论文通过对高阶因子图上的低秩求和-乘积循环信念传播进行神经化，提出 Factor Graph Neural Networks (FGNNs)，实现端到端学习，并能够在同一体系结构中表示 Sum-Product 与 Max-Product 推理。

ABSTRACT

In recent years, we have witnessed a surge of Graph Neural Networks (GNNs), most of which can learn powerful representations in an end-to-end fashion with great success in many real-world applications. They have resemblance to Probabilistic Graphical Models (PGMs), but break free from some limitations of PGMs. By aiming to provide expressive methods for representation learning instead of computing marginals or most likely configurations, GNNs provide flexibility in the choice of information flowing rules while maintaining good performance. Despite their success and inspirations, they lack efficient ways to represent and learn higher-order relations among variables/nodes. More expressive higher-order GNNs which operate on k-tuples of nodes need increased computational resources in order to process higher-order tensors. We propose Factor Graph Neural Networks (FGNNs) to effectively capture higher-order relations for inference and learning. To do so, we first derive an efficient approximate Sum-Product loopy belief propagation inference algorithm for discrete higher-order PGMs. We then neuralize the novel message passing scheme into a Factor Graph Neural Network (FGNN) module by allowing richer representations of the message update rules; this facilitates both efficient inference and powerful end-to-end learning. We further show that with a suitable choice of message aggregation operators, our FGNN is also able to represent Max-Product belief propagation, providing a single family of architecture that can represent both Max and Sum-Product loopy belief propagation. Our extensive experimental evaluation on synthetic as well as real datasets demonstrates the potential of the proposed model.

研究动机与目标

• 在对对成对关系之外的更高阶依赖上激发学习，并利用因子图结构实现更丰富的表示。
• 利用低秩张量分解推导适用于离散高阶概率图模型的高效近似推理算法。
• 将推理过程神经化，构建端到端可训练的 FGNN 架构。
• 表明在合适的聚合器下，FGNN 能表示 Sum-Product 和 Max-Product 信念传播。
• 展示 FGNN 在合成 PGM 推理、LDPC 解码、图匹配，以及真实世界任务如手写识别、人体动作和分子性质预测中的实际有效性。

提出的方法

• 用低秩 CP 张量分解表示高阶因子，以实现高效的信息更新。
• 通过将信息消息解释为潜在向量并允许灵活的聚合器（不仅仅是乘积）来将循环信念传播展开为一个神经网络。
• 使用变量-因子和因子-变量模块来构成在因子图中传播信息的 FGNN 层。
• 允许聚合器函数（包括基于 MLP 的集合函数）替代 Hadamard 积，以提高稳定性和表达能力。
• 证明通过选择合适的聚合器，理论上能够在 Sum-Product 和 Max-Product 之间切换。

实验结果

研究问题

• RQ1 FGNN 是否能够在具有低秩张量因子分解的离散高阶因子图上高效执行推理？
• RQ2 FGNN 是否能够在单一架构中统一 Sum-Product 与 Max-Product 信念传播？
• RQ3 将高阶 LBP 神经化是否提升端到端学习和在需要高阶依赖的任务上的泛化？
• RQ4 在合成和真实数据集上，与传统图模型推理、标准 GNN 和 k 阶 GNN 相比，FGNN 的表现如何？
• RQ5 FGNN 是否可以扩展到大规模分子数据集和如图匹配、人体动作预测等复杂结构化任务？

主要发现

• FGNN 提供了对每个因子的变量数量呈线性复杂度的高效两步消息更新。
• 通过选择合适的聚合器，模型可以表示 Max-Product 信念传播，在 FGNN 内统一 Sum-Product 和 Max-Product。
• 实验表明，在某些噪声条件下 FGNN 优于标准 LDPC 解码，并在图匹配任务上超越图模型推理和标准 GNN。
• FGNN 在人体动作预测上达到最先进的结果，并在 QM9 与 Alchemy 分子数据集上显著超越其他 k 阶 GNN。
• 该架构支持高阶依赖和动态类型或条件因子，便于灵活的图形规范。
• 实证消融研究支持对高阶因子采用低秩假设的实际有用性。