[论文解读] Learning Representation Mapping for Relation Detection in Knowledge Base Question Answering

Peng Wu, Shujian Huang+5 more|arXiv (Cornell University)|Jul 17, 2019

Topic Modeling参考文献 32被引用 6

一句话总结

本文提出一种表示适配器，通过学习知识图谱中的关系嵌入与问题-三元组对关系嵌入之间的映射，以提升知识库问答（KBQA）中的零样本关系检测性能。通过引入对抗性目标和重建目标，该方法在未见关系上的性能显著提升，同时在已见关系上保持了最先进水平的准确率，有效填补了KBQA泛化能力的关键空白。

ABSTRACT

Relation detection is a core step in many natural language process applications including knowledge base question answering. Previous efforts show that single-fact questions could be answered with high accuracy. However, one critical problem is that current approaches only get high accuracy for questions whose relations have been seen in the training data. But for unseen relations, the performance will drop rapidly. The main reason for this problem is that the representations for unseen relations are missing. In this paper, we propose a simple mapping method, named representation adapter, to learn the representation mapping for both seen and unseen relations based on previously learned relation embedding. We employ the adversarial objective and the reconstruction objective to improve the mapping performance. We re-organize the popular SimpleQuestion dataset to reveal and evaluate the problem of detecting unseen relations. Experiments show that our method can greatly improve the performance of unseen relations while the performance for those seen part is kept comparable to the state-of-the-art. Our code and data are available at https://github.com/wudapeng268/KBQA-Adapter.

研究动机与目标

• 解决现有KBQA系统在训练数据中未出现的未见关系上泛化能力差的问题。
• 深入研究零样本关系检测问题，特别是未见关系表示学习的缺失。
• 提出一种新颖的映射机制——表示适配器，将更广泛知识图谱中的知识迁移至关系检测任务中。
• 对SimpleQuestion数据集进行重新组织，构建SimpleQuestion-Balance数据集，以公平地分别评估已见与未见关系的性能。
• 证明仅在已见关系上进行训练是不足的，零样本泛化能力必须在KBQA中显式处理。

提出的方法

• 利用大规模知识库（如FB2M）中的知识图谱嵌入，预训练超出人工标注训练数据覆盖范围的关系表示。
• 训练一个表示适配器——一个可学习的映射头，将问题-三元组关系嵌入映射到知识图谱关系嵌入空间。
• 使用均方误差损失监督适配器在已见关系上的初始训练。
• 引入对抗性目标，使映射后的嵌入分布与目标知识图谱嵌入空间对齐。
• 应用重建目标，通过从映射空间重建原始关系表示来保持语义结构。
• 使用已见与未见关系联合微调适配器，实现对先前未见关系的零样本推理。

实验结果

研究问题

• RQ1 最先进KBQA系统在训练数据中未出现的未见关系上的性能如何下降？
• RQ2 能否利用知识图谱嵌入来改善KBQA中未见关系的表示学习？
• RQ3 哪些训练目标（如对抗性、重建）最能提升关系检测模型对未见关系的泛化能力？
• RQ4 如何构建一个平衡的基准数据集，以公平评估已见与未见关系检测的性能？
• RQ5 简单的适配器机制能否在无需对所有关系重新训练的情况下，有效将大规模知识图谱的知识迁移至问答模型？

主要发现

• 所提出的表示适配器显著提升了对未见关系的零样本关系检测性能，优于在这些情况下表现失败的基线模型。
• 该方法在已见关系上也保持了具有竞争力的性能，尽管未针对其显式优化，其准确率仍与最先进模型相当。
• 对抗性与重建目标共同增强了适配器的泛化能力，消融实验确认了二者均具有积极贡献。
• 案例研究显示，当词汇线索微弱时，适配器能正确识别如'music.recording.producer'（未见）等关系，而基线模型则失败。
• 重新组织的SimpleQuestion-Balance数据集表明，标准评估协议因训练与测试关系间存在高重叠而高估了模型性能。
• 结果表明，仅依赖已见关系性能是具有误导性的，零样本泛化能力必须显式评估并加以优化。