[论文解读] Neural-Symbolic Reasoning over Knowledge Graph for Multi-stage Explainable Recommendation

Yikun Xian, Zuohui Fu+3 more|arXiv (Cornell University)|Jul 26, 2020

Advanced Graph Neural Networks参考文献 10被引用 10

一句话总结

本文提出NSER，一种新颖的粗粒度到细粒度神经符号推理框架，通过将深度学习与符号知识图谱推理相结合，生成分层且可解释的推荐结果。通过先学习抽象的用户行为模式，再推导具体的推理路径，NSER在四个真实世界数据集上均实现了最先进水平的推荐性能，并提供了多样化且可解释的推荐结果。

ABSTRACT

Recent work on recommender systems has considered external knowledge graphs as valuable sources of information, not only to produce better recommendations but also to provide explanations of why the recommended items were chosen. Pure rule-based symbolic methods provide a transparent reasoning process over knowledge graph but lack generalization ability to unseen examples, while deep learning models enhance powerful feature representation ability but are hard to interpret. Moreover, direct reasoning over large-scale knowledge graph can be costly due to the huge search space of pathfinding. We approach the problem through a novel coarse-to-fine neural symbolic reasoning method called NSER. It first generates a coarse-grained explanation to capture abstract user behavioral pattern, followed by a fined-grained explanation accompanying with explicit reasoning paths and recommendations inferred from knowledge graph. We extensively experiment on four real-world datasets and observe substantial gains of recommendation performance compared with state-of-the-art methods as well as more diversified explanations in different granularity.

研究动机与目标

• 解决纯符号方法（泛化能力不足）和深度学习模型（可解释性差）在可解释推荐中的局限性。
• 开发一种方法，实现在推荐过程中的进行时、分层解释，而非事后或预设的解释。
• 通过利用学习到的抽象模式引导推理，降低大规模知识图谱中路径查找的计算成本。
• 通过结合神经表征学习与符号路径推理，提升推荐性能。

提出的方法

• NSER采用两阶段推理流程：首先生成粗粒度解释，作为表示抽象用户行为模式的神经符号元布局。
• 粗粒度解释由可微分的神经关系模块组成，且针对每个用户个性化并可重构。
• 基于学习到的元布局，NSER在知识图谱上推断细粒度推理路径，末端节点作为最终推荐结果。
• 该模型采用联合优化目标，结合路径正则化（确保正确符号路径）与排序损失（提升推荐准确性）。
• 使用启发式函数评估候选元路径的质量，以指导有效抽象布局的选择。
• 该框架通过教师模型（HeteroEmbed）进行端到端训练，以提升泛化能力，甚至在推荐性能上超越教师模型。

实验结果

研究问题

• RQ1 与现有方法相比，粗粒度到细粒度的神经符号推理框架是否能同时提升推荐准确率与解释多样性？
• RQ2 将符号路径推理与深度学习相结合，如何在不牺牲泛化能力的前提下增强模型可解释性？
• RQ3 使用抽象元布局在多大程度上减少了大规模知识图谱中路径查找的搜索空间？
• RQ4 不同策略（均匀、先验、启发式）生成抽象元布局对推荐性能有何影响？
• RQ5 路径正则化与排序损失之间的权衡如何影响最终推荐质量？

主要发现

• NSER在所有四个数据集的所有指标上均优于最佳基线模型HeteroEmbed，在Clothing数据集上达到6.340%的Recall，而HeteroEmbed为5.466%。
• 即使不使用排序损失组件，NSER仍保持强劲的推荐性能，表明其表征学习具有高度鲁棒性。
• 基于启发式的元布局生成方法在推荐质量方面显著优于均匀分布和基于先验的布局。
• 路径正则化与排序损失之间存在最优权衡；过度加权后者会因路径拟合准确率下降而降低性能。
• NSER的推荐结果优于其教师模型（HeteroEmbed），表明两阶段推理过程有助于更优的模式发现与泛化能力。