[论文解读] Variational Recurrent Neural Networks for Graph Classification
本文提出了一种变分递归图分类器（VRGC），通过基于BFS的节点排序和门控循环单元（GRUs）顺序处理图结构，学习不变表示，并引入一种新颖的变分自回归模块以实现结构正则化。该模型在四个分子图数据集上实现了最先进性能，尤其在NCI1和Proteins Full数据集上表现突出。
We address the problem of graph classification based only on structural information. Inspired by natural language processing techniques (NLP), our model sequentially embeds information to estimate class membership probabilities. Besides, we experiment with NLP-like variational regularization techniques, making the model predict the next node in the sequence as it reads it. We experimentally show that our model achieves state-of-the-art classification results on several standard molecular datasets. Finally, we perform a qualitative analysis and give some insights on whether the node prediction helps the model better classify graphs.
研究动机与目标
- 解决使用自然语言处理中的序列建模技术处理可变大小、依赖顺序的图输入时的图分类挑战。
- 在不依赖节点或边属性的前提下，提升图神经网络的泛化能力和结构表示学习能力。
- 探究变分自回归正则化是否通过在训练过程中鼓励模型预测节点连接性来提升分类性能。
- 通过在训练和测试过程中对随机BFS根进行数据增强，实现节点索引不变性。
- 评估变分自回归模块对标准分子基准测试中最终分类准确率的贡献。
提出的方法
- 该模型对无向图应用随机BFS遍历，重新排序节点，将邻接矩阵转换为d维节点特征向量序列。
- 每个节点的邻接向量截断为BFS顺序中前d个前驱节点，并通过零填充保持固定维度。
- GRU处理节点嵌入序列，学习捕捉图中结构依赖关系的潜在表示。
- 一个独立的GRU和Softmax分类器头利用最终隐藏状态，通过交叉熵损失预测图类别的概率。
- 引入一种变分自回归（VAR）模块，在每一步预测下一个节点的邻接向量，提供辅助训练信号和正则化。
- 在推理阶段，模型对N个随机BFS根聚合预测结果，并通过K次运行的硬投票机制提升预测的鲁棒性和置信度。
实验结果
研究问题
- RQ1与标准递归图分类器相比，引入变分自回归正则化是否能提升图分类性能？
- RQ2基于随机BFS的节点排序在多大程度上有助于学习节点索引不变的表示？
- RQ3VAR模块的辅助预测任务在多大程度上影响了用于分类的潜在表示的质量？
- RQ4所提出的方法是否能在不使用节点或边属性的情况下，在标准分子图基准上实现最先进性能？
- RQ5通过BFS根采样进行数据增强与集成平均的结合是否能提升泛化能力和预测置信度？
主要发现
- VRGC模型在四个标准分子图数据集中的三个上实现了最先进准确率：Mutag为86.3%，Enzymes为48.4%，Proteins Full为74.8%，NCI1为80.7%。
- 在NCI1数据集上，VRGC优于所有先前方法，包括之前的最先进方法（FGSD为79.8%），准确率达到80.7%。
- 变分自回归模块对性能提升有贡献，尤其在NCI1和Proteins Full等较大数据集上，表明其增强了结构表示学习能力。
- 通过数据增强实现的节点索引鲁棒性表明：在推理阶段对每个图进行多次BFS遍历可获得稳定且高置信度的预测结果。
- 定性分析显示，同一图在不同节点排序下的潜在空间聚类形成紧密且一致的组，表明模型有效学习了不变性。
- VAR模块的额外训练成本微乎其微，使其成为图分类中一种高效的正则化技术。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。