[论文解读] Normalized Google Distance of Multisets with Applications

Andrew R. Cohen, Paul Vitányi|arXiv (Cornell University)|Aug 14, 2013

Computability, Logic, AI Algorithms参考文献 18被引用 5

一句话总结

本文提出一种用于搜索词多重集的归一化谷歌距离（NGD），将成对NGD扩展至多词情境，利用网页搜索频率捕捉多个术语间的共享语义相似性。与使用谷歌API或Bing接口的成对NGD相比，该方法在分类任务（如分类分组和政治候选人聚类）中表现更优。

ABSTRACT

Normalized Google distance (NGD) is a relative semantic distance based on the World Wide Web (or any other large electronic database, for instance Wikipedia) and a search engine that returns aggregate page counts. The earlier NGD between pairs of search terms (including phrases) is not sufficient for all applications. We propose an NGD of finite multisets of search terms that is better for many applications. This gives a relative semantics shared by a multiset of search terms. We give applications and compare the results with those obtained using the pairwise NGD. The derivation of NGD method is based on Kolmogorov complexity.

研究动机与目标

• 将成对归一化谷歌距离（NGD）扩展至搜索词多重集，以改进语义相似性度量。
• 基于网页搜索频率开发一种可计算、无参数的相似性度量，以捕捉多个术语间的共享语义。
• 在成对NGD无法捕捉群体结构的真实世界分类任务中，评估该方法的性能。
• 从准确性和鲁棒性角度，将多重集NGD与成对NGD、Bing及谷歌n-gram进行比较。

提出的方法

• 提出一种多重集NGD，定义为 $ NGD(X) = \frac{\max_{x \in X} \log f(x) - \log f(x_1, \dots, x_n)}{\log N - \min_{x \in X} \log f(x)} $，其中 $ f(x) $ 表示包含术语 $ x $ 的网页数量，$ f(x_1, \dots, x_n) $ 表示同时包含所有术语的网页数量，$ N $ 为索引网页总数。
• 利用万维网及谷歌（或其他搜索引擎）作为大规模数据库，检索术语频率的聚合网页计数。
• 将多重集NGD应用于有限多重集术语之间，计算单一相似性得分，以表示其整体语义相关性。
• 采用谱聚类与间隙统计量验证数据中的群体结构，结果与成对NGD及其他搜索引擎进行比较。
• 使用谷歌API、谷歌网页用户界面（WUI）、Bing及谷歌n-gram，评估该方法在不同平台上的鲁棒性与性能。
• 通过柯尔莫哥洛夫复杂性与信息距离的理论性质验证该方法，表明其在极限情况下收敛至通用分布。

实验结果

研究问题

• RQ1 归一化谷歌距离能否有意义地从成对术语扩展至多重集术语，以捕捉集体语义相似性？
• RQ2 在分类复杂数据（如生物分类群或政治候选人）时，多重集NGD与成对NGD相比表现如何？
• RQ3 搜索引擎选择（谷歌 vs. Bing）或接口类型（API vs. WUI）是否显著影响基于多重集的分类准确性？
• RQ4 在实际应用中，多重集NGD在多大程度上保持或违反了度量性质（如三角不等式）？
• RQ5 在已知群体结构的数据集（如脊椎动物亚纲或政党隶属关系）上，多重集NGD表现如何？

主要发现

• 多重集NGD成功将全部12个脊椎动物亚纲（爬行动物、哺乳动物、鸟类、鱼类）正确分类至其相应的分类群组。
• 在美国2008年总统初选候选人数据集中，多重集NGD正确分类了12位候选人中的11位，仅将罗恩·保罗误判为民主党人——这可能是由于其自由意志主义立场所致。
• 使用间隙统计量时，成对NGD仅在分类数据中识别出一个聚类，而多重集NGD正确识别出四个聚类，且为全局最大值。
• 使用多重集NGD进行谱聚类在分类学和初选候选人数据集中均实现了完美分类，而成对NGD未能有效分离政党。
• 在所有多重集分类任务中，谷歌API的表现优于谷歌WUI和Bing，Bing的表现显著更差。
• 尽管理论上非度量，实际中多重集NGD未违反三角不等式，且随着数据规模增大，其表现出向通用分布收敛的趋势。