[论文解读] Towards Learning Instantiated Logical Rules from Knowledge Graphs

Yulong Gu, Yu Guan+1 more|arXiv (Cornell University)|Mar 13, 2020

Advanced Graph Neural Networks参考文献 32被引用 8

一句话总结

该论文提出 GPFL，一种概率规则学习器，通过两阶段流程高效地从知识图谱中挖掘实例化的一阶逻辑规则：首先将路径泛化为无环抽象模板，然后将这些模板特化为实例化规则。通过在结构相似的规则之间共享实例化结果，并利用验证集过滤过拟合规则，GPFL 显著减少了评估时间，发现了更高质量的规则，并在知识图谱补全任务上的表现优于当前最先进方法。

ABSTRACT

Efficiently inducing high-level interpretable regularities from knowledge graphs (KGs) is an essential yet challenging task that benefits many downstream applications. In this work, we present GPFL, a probabilistic rule learner optimized to mine instantiated first-order logic rules from KGs. Instantiated rules contain constants extracted from KGs. Compared to abstract rules that contain no constants, instantiated rules are capable of explaining and expressing concepts in more details. GPFL utilizes a novel two-stage rule generation mechanism that first generalizes extracted paths into templates that are acyclic abstract rules until a certain degree of template saturation is achieved, then specializes the generated templates into instantiated rules. Unlike existing works that ground every mined instantiated rule for evaluation, GPFL shares groundings between structurally similar rules for collective evaluation. Moreover, we reveal the presence of overfitting rules, their impact on the predictive performance, and the effectiveness of a simple validation method filtering out overfitting rules. Through extensive experiments on public benchmark datasets, we show that GPFL 1.) significantly reduces the runtime on evaluating instantiated rules; 2.) discovers much more quality instantiated rules than existing works; 3.) improves the predictive performance of learned rules by removing overfitting rules via validation; 4.) is competitive on knowledge graph completion task compared to state-of-the-art baselines.

研究动机与目标

• 为解决从知识图谱中高效挖掘高质量实例化逻辑规则的挑战，这些规则更具表达力，但会导致规则空间急剧扩大。
• 通过在结构相似的规则之间共享实例化结果，降低实例化规则评估的计算成本。
• 识别并缓解实例化规则学习中过拟合规则的影响，后者会降低预测性能。
• 通过有效的规则过滤与配置调优，提升规则学习器在知识图谱补全任务上的预测性能。
• 证明基于模板的规则生成与集体评估能够实现大规模知识图谱上可扩展且高效的规则挖掘。

提出的方法

• GPFL 采用两阶段规则生成机制：首先提取并泛化路径为无环抽象规则（模板），然后将这些模板特化为包含常量的实例化规则。
• 采用一种新颖的实例化结果共享策略，使结构相似的多个规则共享相同的实例化结果，从而大幅降低评估时间。
• 系统应用一种验证方法，通过在保留数据集上评估规则质量来过滤过拟合规则，提升泛化能力。
• 使用最大值聚合来对知识图谱补全中的预测结果进行排序，结合多个规则的置信度分数以提高排序准确性。
• 该方法支持灵活的规则组合配置（例如 insA-carB），允许对规则长度和类型进行调优以实现最佳性能。
• 使用平滑置信度衡量规则质量，实验表明其在减少过拟合方面优于标准置信度和 PCA。

实验结果

研究问题

• RQ1 如何在不产生不可接受的计算成本的前提下，高效地从知识图谱中生成并评估实例化逻辑规则？
• RQ2 过拟合规则对实例化规则学习器的预测性能有何影响？如何有效缓解？
• RQ3 基于模板的规则生成与实例化结果共享能否显著减少实例化规则的评估时间？
• RQ4 置信度度量的选择如何影响过拟合规则的比例以及整体规则质量？
• RQ5 过滤过拟合规则在多大程度上能提升知识图谱补全任务的性能？

主要发现

• GPFL 通过在结构相似的规则之间共享实例化结果，显著降低了实例化规则的评估运行时间，实现了显著的效率提升。
• 该系统发现的高质量实例化规则数量远超现有方法，尤其得益于其两阶段基于模板的生成流程。
• 通过验证过滤过拟合规则，当过拟合因子设为 0.1 时，top-50 规则的全局平均精确率从接近 0% 提升至约 20%。
• 在过滤过拟合规则后，GPFL 在知识图谱补全任务上的预测性能显著提升，尤其在使用更大验证集的重新划分评估设置下表现更佳。
• 采用集成模式的 GPFL 在 FB15K-237 和 WN18RR 上实现了具有竞争力的性能，其过滤后的 MRR 和 hits@10 指标优于或匹配了强逻辑基与嵌入基基线方法。
• 发现长实例化规则是过拟合的主要来源，且实例化规则比抽象规则更容易发生过拟合，凸显了严格验证的必要性。