[论文解读] A Novel Information Theoretic Framework for Finding Semantic Similarity in WordNet

Abhijit Adhikari, S. Paul Singh+3 more|arXiv (Cornell University)|Jul 19, 2016

Topic Modeling参考文献 1被引用 7

一句话总结

本文提出了一种新颖的信息论框架，用于基于语料库无关的内在信息量（IC）计算模型，在 WordNet 中实现语义相似性。通过利用 WordNet 本体的拓扑特性，该框架与标准数据集的相关性高达 0.71，优于最先进的基于 IC 和非基于 IC 的方法。

ABSTRACT

Information content (IC) based measures for finding semantic similarity is gaining preferences day by day. Semantics of concepts can be highly characterized by information theory. The conventional way for calculating IC is based on the probability of appearance of concepts in corpora. Due to data sparseness and corpora dependency issues of those conventional approaches, a new corpora independent intrinsic IC calculation measure has evolved. In this paper, we mainly focus on such intrinsic IC model and several topological aspects of the underlying ontology. Accuracy of intrinsic IC calculation and semantic similarity measure rely on these aspects deeply. Based on these analysis we propose an information theoretic framework which comprises an intrinsic IC calculator and a semantic similarity model. Our approach is compared with state of the art semantic similarity measures based on corpora dependent IC calculation as well as intrinsic IC based methods using several benchmark data set. We also compare our model with the related Edge based, Feature based and Distributional approaches. Experimental results show that our intrinsic IC model gives high correlation value when applied to different semantic similarity models. Our proposed semantic similarity model also achieves significant results when embedded with some state of the art IC models including ours.

研究动机与目标

• 解决传统信息量（IC）计算在语义相似性任务中面临的数据稀疏性和语料库依赖性问题。
• 基于 WordNet 的拓扑结构，开发一种语料库无关的内在 IC 模型。
• 通过整合内在 IC 与本体拓扑结构，提升语义相似性度量的准确性。
• 将所提出的框架与最先进的基于 IC 和非基于 IC 的语义相似性模型进行对比评估。
• 展示该框架在嵌入其他 IC 模型（包括 Meng 等人和 Pirró）时的兼容性与优越性能。

提出的方法

• 提出一种新颖的内在 IC 计算方法，仅从 WordNet 的层次结构中推导信息量，无需依赖外部语料库。
• 利用深度、祖先数量以及从根节点到节点的路径长度等拓扑特征，计算内在 IC 值。
• 将内在 IC 模型集成到使用标准相似度函数（如 Resnik、Lin、Jiang-Conrath）的语义相似度框架中。
• 采用多源评估策略，使用包含人工标注相似度分数的基准数据集。
• 在多种 IC 计算方法（Seco 等人、Zhou 等人、Sánchez 等人、Meng 等人、Qingbo 等人）和相似度模型上验证该框架。
• 应用统一的评估流程，比较不同 IC 和相似度模型在与标准数据集相关性上的表现。

实验结果

研究问题

• RQ1 仅基于 WordNet 拓扑结构的内在 IC 模型是否能在语义相似性任务中优于依赖语料库的 IC 方法？
• RQ2 所提出的内在 IC 模型对既有的语义相似度度量方法（如 Resnik、Lin、Jiang-Conrath）性能有何影响？
• RQ3 与最先进的基于 IC 和非基于 IC 的模型相比，所提出的框架与标准数据集的相关性如何？
• RQ4 当与 Meng 等人或 Pirró 的 IC 模型集成时，所提出的框架的鲁棒性如何？
• RQ5 该内在 IC 模型是否能泛化到不同的相似度函数并保持高准确性？

主要发现

• 当在 Pirró 相似度模型中使用时，所提出的内在 IC 模型与标准数据集的相关性达到 0.71，优于所有测试的其他基于 IC 的模型。
• 当使用其自身的相似度模型时，该框架与标准数据集的相关性达到 0.69，表现出强劲的性能。
• 当与 Meng 等人的 IC 模型集成时，所提出的相似度模型的相关性达到 0.68，表明其具有出色的兼容性和有效性。
• 在不同相似度函数上的稳定性与泛化能力方面，该内在 IC 模型始终优于依赖语料库的 IC 方法。
• 该框架表现出高度兼容性，在与既有的 IC 模型和相似度函数结合时均取得最佳结果。
• 所提出的方法在所有评估的基于内在 IC 的模型中实现了最高的相关性（0.71），证实其在语义相似性估计中的优越性。