[论文解读] ExplaiNE: An Approach for Explaining Network Embedding-based Link Predictions

Bo Kang, Jefrey Lijffijt+1 more|arXiv (Cornell University)|Apr 22, 2019

Advanced Graph Neural Networks参考文献 24被引用 12

一句话总结

ExplaiNE 提出了一种基于网络嵌入的链接预测的反事实解释方法，通过测量削弱现有链接对预测结果的影响，识别出最影响预测链接概率的链接。该方法在准确性和可扩展性方面表现优异，尤其在条件网络嵌入（Conditional Network Embedding）上的应用效果显著，并在真实世界中的合作者网络与电影推荐网络中展现出强大性能。

ABSTRACT

Networks are powerful data structures, but are challenging to work with for conventional machine learning methods. Network Embedding (NE) methods attempt to resolve this by learning vector representations for the nodes, for subsequent use in downstream machine learning tasks. Link Prediction (LP) is one such downstream machine learning task that is an important use case and popular benchmark for NE methods. Unfortunately, while NE methods perform exceedingly well at this task, they are lacking in transparency as compared to simpler LP approaches. We introduce ExplaiNE, an approach to offer counterfactual explanations for NE-based LP methods, by identifying existing links in the network that explain the predicted links. ExplaiNE is applicable to a broad class of NE algorithms. An extensive empirical evaluation for the NE method `Conditional Network Embedding' in particular demonstrates its accuracy and scalability.

研究动机与目标

• 为解决当前最先进的网络嵌入（NE）方法在链接预测（LP）中缺乏可解释性的问题，这些方法虽然准确度高但缺乏透明度。
• 开发一种数学上严谨的方法，用于生成基于网络嵌入的链接预测的可被人理解的反事实解释。
• 确保方法在多种网络嵌入方法中的可扩展性与实际适用性，包括基于负采样跳元模型（skip-gram with negative sampling）的方法。
• 通过在真实网络（如合作者网络与MovieLens）上的定量与定性评估，验证该方法的有效性。
• 证明ExplaiNE生成的解释不仅稳定且可扩展，而且在语义上具有意义，如在推荐任务中通过类型相关性得到验证。

提出的方法

• ExplaiNE 使用反事实推理：量化削弱一个现有链接对目标链接预测概率的影响。
• 对于一个预测的链接 {i,j}，它评估当一个现有链接 {i,k} 被削弱时，链接概率的变化，从而识别 {i,k} 是正向还是负向影响。
• 该方法首先以通用形式提出，以支持基于网络中任意链接或非链接的解释，随后针对关联链接进行专门化以提升可扩展性。
• 引入一种紧致近似，显著降低计算成本，同时保持高精度，其有效性通过消融研究得到实证支持。
• 该方法在条件网络嵌入（CNE）上进行了详细应用，利用其可微分且透明的结构，实现高效解释生成。
• 提供了将ExplaiNE扩展至其他网络嵌入方法（如DeepWalk、node2vec、LINE、PTE）的框架，基于其跳元模型与负采样公式。

实验结果

研究问题

• RQ1 基于链接削弱的反事实解释是否能有效且准确地解释基于网络嵌入的链接预测？
• RQ2 当应用在大规模网络时，ExplaiNE 方法的可扩展性如何，尤其是在使用近似方法的情况下？
• RQ3 ExplaiNE 生成的解释是否反映了有意义的网络结构，例如合作者之间的共同合作或推荐任务中的类型相似性？
• RQ4 与随机基线相比，ExplaiNE 的解释在合作者预测与推荐任务中的预测性能如何？
• RQ5 解释内容（如合作者或电影类型）与预测链接特征之间的相关性是否具有统计显著性？

主要发现

• ExplaiNE 成功识别出最影响预测链接概率的现有链接，结果直观且与网络几何结构一致，如在Zachary空手道俱乐部网络中所示。
• 在合作者预测任务中，该方法实现了高精确率与高召回率，显著优于随机排序，在多位作者（如Eric P. Xing、Kamalika Chaudhuri、Ruslan Salakhutdinov、Michael I. Jordan）及不同论文长度下均表现优异。
• 在MovieLens网络中，ExplaiNE生成的前5个解释与推荐电影的类型之间表现出统计显著的相关性（p值数值上为0.0），无论解释来自已观看的电影还是全部电影。
• Kolmogorov-Smirnov检验表明，类型重叠的p值并非均匀分布，从而拒绝了原假设，说明ExplaiNE的解释与推荐项目特征具有实质性关联。
• ExplaiNE的可扩展近似方法保持了高度的稳定性和准确性，运行时间性能适合在大规模真实网络中实际部署。
• 定性分析表明，解释具有语义一致性：例如，研究主题相似或类型相近的合作者/电影会被优先选为解释，从而增强信任度与可解释性。