[论文解读] One-Shot Relational Learning for Knowledge Graphs
本文提出了一种用于知识图谱的一次性关系学习框架，通过每种关系仅使用一个训练三元组来预测新事实。通过将实体嵌入与基于一跳邻域结构的可学习匹配度量相结合，并引入循环匹配处理器，该模型在无需为新关系微调或重新训练的情况下，显著优于传统嵌入方法。
Knowledge graphs (KGs) are the key components of various natural language processing applications. To further expand KGs' coverage, previous studies on knowledge graph completion usually require a large number of training instances for each relation. However, we observe that long-tail relations are actually more common in KGs and those newly added relations often do not have many known triples for training. In this work, we aim at predicting new facts under a challenging setting where only one training instance is available. We propose a one-shot relational learning framework, which utilizes the knowledge extracted by embedding models and learns a matching metric by considering both the learned embeddings and one-hop graph structures. Empirically, our model yields considerable performance improvements over existing embedding models, and also eliminates the need of re-training the embedding models when dealing with newly added relations.
研究动机与目标
- 解决长尾或新添加关系的知识图谱补全问题，训练三元组极少。
- 克服现有嵌入模型对每种关系需要大量训练数据的局限性。
- 开发一种无需微调或重新训练即可泛化到未见关系的框架。
- 利用局部图结构和可学习度量，提升少样本链接预测性能。
提出的方法
- 提出一种排列不变的邻居编码器，用于编码实体的一跳邻居，捕捉局部结构信息。
- 引入一种使用循环网络的可微分匹配处理器，实现实体对之间的多步匹配。
- 设计一种可学习度量，结合实体嵌入和结构编码，计算相似度得分。
- 使用缩放因子 $1/\mathcal{N}_e$ 对邻居表示进行归一化，以提高鲁棒性。
- 使用对比损失端到端训练模型，以优化匹配函数。
- 通过将查询三元组与一个示例的支持集进行匹配，将模型应用于一次性链接预测。
实验结果
研究问题
- RQ1仅有一个训练样本，关系学习模型是否能泛化到新关系或长尾关系？
- RQ2在少样本设置下，结合实体嵌入和局部图结构的可学习匹配度量有多有效？
- RQ3与仅使用嵌入的模型相比，引入一跳邻域信息是否能提升泛化性能？
- RQ4当引入新关系时，模型是否能避免重新训练，同时在多样化关系上保持高性能？
主要发现
- 所提模型在 NELL-One 上达到 17.1% 的 MRR，在 Wiki-One 上达到 20.0% 的 MRR，分别优于最佳基线嵌入模型 7.8% 和 12.8%。
- 包含完整组件（邻居编码器、匹配处理器和缩放因子）的模型在 NELL-One 测试集上达到 Hits@10 为 0.313。
- 移除匹配处理器后，Hits@10 降至 0.266，表明其在优化相似度匹配中的关键作用。
- 不使用缩放因子的邻居编码器性能劣于简单的基于嵌入的匹配，表明归一化对稳定性至关重要。
- 候选实体少于 100 个的关系预测更准确，且在部分此类关系上甚至超越了标准训练基线。
- 在候选实体超过 3,000 个的关系上，模型性能下降，表明对高度模糊或稀疏关系仍存在挑战。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。