[论文解读] Modeling Attention Flow on Graphs

Xiaoran Xu, Songpeng Zu+3 more|arXiv (Cornell University)|Nov 1, 2018

Advanced Graph Neural Networks参考文献 34被引用 6

一句话总结

本文提出注意力流机制，通过显式追踪注意力随时间的演变，建模图上的推理过程，将注意力与图网络的消息传递机制结合，从而提升预测准确率与可解释性。该方法在注意力流通过非线性变换与消息传递实现反向交互时，显著优于标准图网络和随机游走基线模型。

ABSTRACT

Real-world scenarios demand reasoning about process, more than final outcome prediction, to discover latent causal chains and better understand complex systems. It requires the learning algorithms to offer both accurate predictions and clear interpretations. We design a set of trajectory reasoning tasks on graphs with only the source and the destination observed. We present the attention flow mechanism to explicitly model the reasoning process, leveraging the relational inductive biases by basing our models on graph networks. We study the way attention flow can effectively act on the underlying information flow implemented by message passing. Experiments demonstrate that the attention flow driven by and interacting with graph networks can provide higher accuracy in prediction and better interpretation for trajectory reasoning.

研究动机与目标

• 开发一种在图结构数据上建模推理过程的方法，实现显式可解释性，而不仅限于预测最终结果。
• 将注意力机制与图网络的消息传递机制结合，以建模动态的、基于过程的推理。
• 探究反向作用的注意力如何改善消息传递并提升模型性能。
• 在仅观察起点和终点节点的情况下，于轨迹推理任务上评估该方法。
• 提供图结构数据中推理路径的清晰、可可视化解释。

提出的方法

• 注意力流机制将推理建模为随时间演化的注意力步骤序列，其源自图网络的消息传递过程。
• 通过从潜在方向函数学习时间演化的转移矩阵，以引导注意力在图节点间的流动。
• 通过学习到的注意力权重对消息进行调制，利用乘法和非线性变换，使注意力流反向作用于消息传递。
• 在图邻域上使用多头注意力机制，结合时间步上的归一化与聚合操作。
• 在存在缺失边或节点的损坏网格世界环境中，端到端训练该模型以完成轨迹推理任务。
• 评估了三种反向交互机制变体：无作用、仅乘法、乘法后接非线性变换。

实验结果

研究问题

• RQ1 与随机游走基线相比，显式建模注意力流是否能提升图结构数据上的推理性能？
• RQ2 注意力流与消息传递的反向交互是否能提升模型准确率与可解释性？
• RQ3 哪种反向注意力作用机制——乘法、非线性变换，或两者结合——能取得最佳性能？
• RQ4 学习到的注意力流在视觉上与图环境中真实潜在因果轨迹的对齐程度如何？
• RQ5 该模型能否在不同类型的动力方向函数（恒定、时间依赖、位置依赖、历史依赖）上实现泛化？

主要发现

• FullGN-MulMlp模型在SINE-SZ32-STP16-NDRP-STD数据集上达到16.25% H@1和0.3493 MRR，优于基线GAT和GGNN模型。
• 在含0.2噪声的64×64网格世界数据集上，GGNN-MulMlp在LOCATION任务中达到44.01% H@1和0.6286 MRR，显著优于标准GGNN（22.59% H@1）。
• 在乘法后加入非线性变换（MulMlp）的机制始终优于无作用和简单乘法，表明其在反向交互中的有效性。
• 可视化结果显示，学习到的注意力流从起点到终点形成连贯的带状路径，与真实轨迹高度吻合，尤其在恒定和时间依赖方向情况下。
• 注意力流有时会分叉以探索靠近缺口的区域，表明在不完整图结构中具有自适应探索行为。
• 与标准图网络相比，采用显式注意力流的模型在复杂、噪声环境中实现了更高的准确率与更好的可解释性。