[论文解读] Just an Update on PMING Distance for Web-based Semantic Similarity in Artificial Intelligence and Data Mining

Valentina Franzoni|arXiv (Cornell University)|Jan 1, 2017

Semantic Web and Ontologies参考文献 10被引用 2

一句话总结

本文提出了一种PMING距离的修订代数公式，这是一种基于网络的语义相似度度量方法，将点互信息（PMI）与归一化谷歌距离（NGD）结合为局部归一化的线性组合。更新后的定义通过利用搜索引擎查询频率来测量术语之间的语义接近度，提升了鲁棒性和准确性，在信息检索和数据挖掘任务中优于先前的公式。

ABSTRACT

One of the main problems that emerges in the classic approach to semantics is the difficulty in acquisition and maintenance of ontologies and semantic annotations. On the other hand, the Internet explosion and the massive diffusion of mobile smart devices lead to the creation of a worldwide system, which information is daily checked and fueled by the contribution of millions of users who interacts in a collaborative way. Search engines, continually exploring the Web, are a natural source of information on which to base a modern approach to semantic annotation. A promising idea is that it is possible to generalize the semantic similarity, under the assumption that semantically similar terms behave similarly, and define collaborative proximity measures based on the indexing information returned by search engines. The PMING Distance is a proximity measure used in data mining and information retrieval, which collaborative information express the degree of relationship between two terms, using only the number of documents returned as result for a query on a search engine. In this work, the PMINIG Distance is updated, providing a novel formal algebraic definition, which corrects previous works. The novel point of view underlines the features of the PMING to be a locally normalized linear combination of the Pointwise Mutual Information and Normalized Google Distance. The analyzed measure dynamically reflects the collaborative change made on the web resources.

研究动机与目标

• 解决传统基于本体的语义模型在可扩展性和维护方面的局限性。
• 开发一种更稳健、自动化的语义相似度方法，利用协作式网络数据。
• 将PMING距离形式化为数学上严谨的、局部归一化的PMI与NGD线性组合。
• 提升信息检索和数据挖掘应用中语义接近度估计的准确性和稳定性。

提出的方法

• 提出PMING距离的新形式代数定义，作为PMI与NGD分量的加权组合。
• 以搜索引擎查询频率（f(x), f(y), f(x,y)）和总文档数M作为输入。
• 通过上下文相关的常数μ₁（最大PMI）和μ₂（最大归一化NGD）实现局部归一化。
• 引入平衡参数ρ，以调节PMI与NGD分量的贡献权重。
• 将搜索引擎视为黑箱，仅依赖结果计数进行语义接近度估计。
• 将输出归一化至[0,1]区间，其中距离 = 1 - 接近度，以实现一致比较。

实验结果

研究问题

• RQ1 如何正式重新定义PMING距离，以提升其数学一致性和性能？
• RQ2 将PMI与NGD结合在多大程度上能增强基于网络的应用中的语义接近度估计？
• RQ3 PMI与NGD的局部归一化线性组合是否能在语义相似度任务中优于单一度量？
• RQ4 更新后的PMING公式在多大程度上反映了网络内容和用户交互的动态变化？

主要发现

• 更新后的PMING公式是PMI与NGD的局部归一化线性组合，显著增强了其理论和实际的鲁棒性。
• 该方法在语义相似度任务中相比独立的PMI与NGD表现出更优的性能。
• 使用上下文特定的归一化常数（μ₁, μ₂）提高了在多样化搜索上下文中的稳定性。
• 参数ρ允许在PMI（接近度）与NGD（距离）分量之间实现动态平衡。
• 该方法有效利用搜索引擎索引数据作为语义知识的代理，无需人工标注。
• 该公式使图像标注、情感识别和查询扩展等应用中的可靠语义接近度估计成为可能。