[论文解读] Joint Reasoning for Multi-Faceted Commonsense Knowledge

Yohan Chalier, Simon Razniewski+1 more|arXiv (Cornell University)|Jan 13, 2020

Semantic Web and Ontologies参考文献 40被引用 14

一句话总结

该论文提出Dice框架，通过在整数线性规划（ILP）中使用软约束建模四种语义维度——合理性、典型性、显著性和显著性，以增强常识知识（CSK）。通过利用LP松弛和对偶代价理论，Dice在这些维度上计算出具有信息量且经过百分位数归一化的排名，显著提升了单维基线方法的表达能力和质量，使原始CSK数据扩展了50%，在评估中平均配对精确率（ppref）达到0.66。

ABSTRACT

Commonsense knowledge (CSK) supports a variety of AI applications, from visual understanding to chatbots. Prior works on acquiring CSK, such as ConceptNet, have compiled statements that associate concepts, like everyday objects or activities, with properties that hold for most or some instances of the concept. Each concept is treated in isolation from other concepts, and the only quantitative measure (or ranking) of properties is a confidence score that the statement is valid. This paper aims to overcome these limitations by introducing a multi-faceted model of CSK statements and methods for joint reasoning over sets of inter-related statements. Our model captures four different dimensions of CSK statements: plausibility, typicality, remarkability and salience, with scoring and ranking along each dimension. For example, hyenas drinking water is typical but not salient, whereas hyenas eating carcasses is salient. For reasoning and ranking, we develop a method with soft constraints, to couple the inference over concepts that are related in in a taxonomic hierarchy. The reasoning is cast into an integer linear programming (ILP), and we leverage the theory of reduction costs of a relaxed LP to compute informative rankings. This methodology is applied to several large CSK collections. Our evaluation shows that we can consolidate these inputs into much cleaner and more expressive knowledge. Results are available at https://dice.mpi-inf.mpg.de.

研究动机与目标

• 为解决现有常识知识库仅孤立处理陈述并完全依赖置信度分数的局限性，提出一种更丰富、多维的概念-属性陈述表示方法。
• 建模四个不同的语义维度——合理性（逻辑一致性）、典型性（在实例中的普遍性）、显著性（与兄弟概念的区分性）和显著性（人类自发联想的强烈程度），以捕捉人类对概念何为合理、常见、独特或难忘的直觉。
• 通过分类学层次结构和词嵌入，实现对相互关联概念的联合推理，支持在相关概念间进行上下文推理。
• 开发一种可扩展、基于原理的方法，利用整数线性规划（ILP）和对偶代价分析，计算每个维度上的定量、归一化排名。
• 通过添加多维分数和推断出的陈述，扩展并优化现有集合（如ConceptNet、TupleKB和Quasimodo），生成丰富且高质量的CSK数据集。

提出的方法

• 该框架对常识陈述的四个维度进行建模：合理性（逻辑一致性）、典型性（在实例中的普遍性）、显著性（与兄弟概念的区分性）和显著性（人类自发联想的强烈程度）。
• 通过分类学层次结构和词级嵌入（如word2vec、GloVe）识别相互关联的概念，形成用于联合推理的邻域。
• 定义软约束以耦合相关陈述之间的推理，例如：若某一属性对某概念合理但对其兄弟概念不合理，则可将其标记为显著。
• 将推理任务表述为整数线性规划（ILP），其中变量表示各维度的得分，约束编码陈述与概念之间的逻辑关系。
• 利用LP松弛的对偶代价（机会成本）计算每个维度的有信息量且归一化的排名，实现跨陈述的比较评估。
• 该方法整合源CSK的先验分数和相关概念的证据，通过学习到的约束权重优化在人工标注基准上的性能。

实验结果

研究问题

• RQ1 是否能通过超越简单置信度分数的多维常识知识建模，更好地捕捉人类对概念属性的直觉？
• RQ2 如何在分类学或嵌入空间中联合推理相互关联的概念，以提升CSK陈述的质量和表达能力？
• RQ3 LP松弛的对偶代价在多个人类语义维度上是否能提供有意义且归一化的排名？
• RQ4 与孤立评分或基于先验的方法相比，使用软约束的联合推理在人工标注排名上的预测性能如何？
• RQ5 该框架能否在保持一致性和表达力的前提下，通过新增高质量陈述和多维分数来丰富现有CSK集合？

主要发现

• Dice在人工标注的排名上实现了0.66的平均配对精确率（ppref），显著优于仅使用先验分数的基线方法（0.58）或仅使用联合推理的方法（0.51）。
• 四维模型捕捉到了细微的区分：例如，对于蛇而言，'be at shed'比'be at pet zoo'更具典型性，而后者则更具显著性。
• 合理性是建模中最具挑战性的维度，评估中表现较低，表明需要更精细的输入信号。
• 约束学习表明，相似性依赖关系和合理性推理对最终排名影响最大，证实了概念间关系的重要性。
• 该方法通过推理将原始CSK集合扩展了约50%，生成了包含多维分数的增强数据集，可供公众下载。
• 在https://dice.mpi-inf.mpg.de的网络演示系统支持交互式探索陈述、其各维度得分、邻域上下文以及带权重的实例化ILP子句。