[论文解读] Acquiring and Modelling Abstract Commonsense Knowledge via Conceptualization

Mutian He, Tianqing Fang+2 more|arXiv (Cornell University)|Jun 3, 2022

Topic Modeling参考文献 155被引用 9

一句话总结

本文提出一种框架，通过概念化方法获取并建模抽象常识知识，结合启发式规则与神经模型的流水线，从 ATOMIC 中生成并验证抽象三元组。该框架构建了一个大规模抽象常识知识图谱，提升了对未见实体和情境的泛化能力，实验表明，直接使用抽象三元组进行数据增强可提升常识推理性能。

ABSTRACT

Conceptualization, or viewing entities and situations as instances of abstract concepts in mind and making inferences based on that, is a vital component in human intelligence for commonsense reasoning. Despite recent progress in artificial intelligence to acquire and model commonsense attributed to neural language models and commonsense knowledge graphs (CKGs), conceptualization is yet to be introduced thoroughly, making current approaches ineffective to cover knowledge about countless diverse entities and situations in the real world. To address the problem, we thoroughly study the role of conceptualization in commonsense reasoning, and formulate a framework to replicate human conceptual induction by acquiring abstract knowledge about events regarding abstract concepts, as well as higher-level triples or inferences upon them. We then apply the framework to ATOMIC, a large-scale human-annotated CKG, aided by the taxonomy Probase. We annotate a dataset on the validity of contextualized conceptualizations from ATOMIC on both event and triple levels, develop a series of heuristic rules based on linguistic features, and train a set of neural models to generate and verify abstract knowledge. Based on these components, a pipeline to acquire abstract knowledge is built. A large abstract CKG upon ATOMIC is then induced, ready to be instantiated to infer about unseen entities or situations. Finally, we empirically show the benefits of augmenting CKGs with abstract knowledge in downstream tasks like commonsense inference and zero-shot commonsense QA.

研究动机与目标

• 解决现有常识知识图谱（CKGs）因依赖具体实例而导致在覆盖多样化现实世界实体与情境方面的局限性。
• 通过从具体事件与关系中建模抽象概念，实现类似人类的概念归纳。
• 开发一种可扩展的流水线，利用语言特征与预训练语言模型，从现有 CKGs（如 ATOMIC）中生成并验证抽象知识。
• 构建一个大规模抽象常识知识图谱，通过概念实例化实现对未见实体与情境的推理能力。
• 通过数据增强展示抽象三元组在提升下游常识推理任务中的实用性。

提出的方法

• 利用 Probase 作为概念分类体系，识别 ATOMIC 中具体实体与事件背后的抽象概念。
• 基于语言特征（如依存树模式、词块）设计并应用启发式规则，生成候选概念化结果。
• 在新标注的 1,000 多个事件与三元组层级概念化有效性判断数据集上训练神经模型，以预测有效的抽象化结果。
• 将启发式规则与神经模型预测结果整合至流水线中，实现 ATOMIC 三元组到抽象形式的端到端概念化。
• 通过将该流水线应用于所有 ATOMIC 三元组，构建大规模抽象常识知识图谱，实现对未见实例的泛化能力。
• 通过在下游常识建模任务中用抽象三元组增强训练数据，评估抽象知识的影响。

实验结果

研究问题

• RQ1 通过抽象概念进行概念化，能否使常识知识图谱在具体实例之外实现更好的泛化能力？
• RQ2 启发式规则与神经模型在识别具体事件与关系的有效概念化方面有多高效？
• RQ3 在训练数据中引入抽象三元组，对常识推理基准性能的提升程度如何？
• RQ4 该框架如何处理多样化的语言形式，如否定、情态或组合概念？
• RQ5 所生成的抽象知识图谱能否支持对先前未见的实体与情境进行推理？

主要发现

• 所提出的流水线成功结合启发式规则与微调后的神经模型，实现了对 ATOMIC 三元组的抽象概念化生成与验证。
• 所生成的抽象常识知识图谱在概念覆盖范围上显著优于现有 CKGs——在 DISCOS 上达到 8.00% 的概念覆盖率，远超 ATOMIC-2020 的 0.76%。
• 实验表明，直接使用抽象三元组增强训练数据，可提升常识建模任务的性能。
• 框架在处理否定、情态和组合概念等细微语言特征方面存在局限，提示未来仍有优化空间。
• 抽象知识图谱能够有效实例化，实现对新实体（如“PersonX 患水痘”）的推理，即使原始 CKG 中缺少其具体三元组。
• 尽管存在部分标注错误，该流水线在从多样化现实事件中生成可泛化的抽象知识方面表现出较强的鲁棒性。