[论文解读] ArcaneQA: Dynamic Program Induction and Contextualized Encoding for Knowledge Base Question Answering

裕二 池谷, Yu Su|arXiv (Cornell University)|Apr 17, 2022

Topic Modeling被引用 20

一句话总结

ArcaneQA 是一个基于生成的知识库问答（KBQA）模型，利用动态程序归纳来裁剪搜索空间，并使用动态上下文编码来引导模式链接，在多个 KBQA 数据集上实现了强效果与高效性。

ABSTRACT

Question answering on knowledge bases (KBQA) poses a unique challenge for semantic parsing research due to two intertwined challenges: large search space and ambiguities in schema linking. Conventional ranking-based KBQA models, which rely on a candidate enumeration step to reduce the search space, struggle with flexibility in predicting complicated queries and have impractical running time. In this paper, we present ArcaneQA, a novel generation-based model that addresses both the large search space and the schema linking challenges in a unified framework with two mutually boosting ingredients: dynamic program induction for tackling the large search space and dynamic contextualized encoding for schema linking. Experimental results on multiple popular KBQA datasets demonstrate the highly competitive performance of ArcaneQA in both effectiveness and efficiency.

研究动机与目标

• 在不依赖大规模候选枚举的前提下解决 KBQA 的庞大搜索空间。
• 通过在每一步动态编码问题和可接受的 KB 模式项来提升模式链接。
• 通过扩展的 S-表达式在 KBQA 数据集之间统一含义表示。
• 在 GrailQA、GraphQ 和 WebQSP 数据集上展示有效性与效率的提升。

提出的方法

• 将 KBQA 建模为一个编码器-解码器系统，通过子程序逐步构建程序（动态程序归纳）。
• 将每个子程序绑定到知识库，并利用其执行来约束后续选择（可接受的动作集合）。
• 使用基于 BERT 的动态上下文编码，使得在每一步只有可接受的标记与问题共同编码。
• 地面真实答案与生成结果受到显式语法规则的约束，以确保程序的格式正确、忠实。
• 用扩展了 CONS 与 TC 的 S-表达式表示含义，以支持隐式实体和时间约束。
• 用交叉熵训练，从一个小的可接受集合中预测下一个标记；在推理阶段尝试多种实体链接假设。

实验结果

研究问题

• RQ1 在保持生成灵活性的同时，动态程序归纳是否能减少 KB 的搜索空间？
• RQ2 动态上下文编码是否改善模式链接与泛化，特别是在非独立同分布、组合性和零样本设置下？
• RQ3 与基于排序的以及其他生成型 KBQA 模型相比，ArcaneQA 在准确性与效率方面的表现如何？
• RQ4 在多个人 KBQA 数据集上，使用扩展操作的统一含义表示是否有效？

主要发现

• ArcaneQA 在 GraphQ 和 WebQSP 上达到最先进或具有竞争力的结果；与没有动态编码的强基线相比，它有显著改进。
• 动态程序归纳减少搜索空间并提高对知识库的忠实度，显著超越普通的生成方法。
• 动态上下文编码显著提升性能，尤其是在非独立同分布和零样本泛化设置中，表明模式链接有所改善。
• 由于在线实时裁剪搜索空间，ArcaneQA 的在线推理速度显著快于基于排序的方法。
• 与 RnG-KBQA 相比，ArcaneQA 在若干情形下达到或超过，并在某些程序类型（如最高级）上因更灵活的生成而表现更好。