[论文解读] The Google Similarity Distance

Rudi Cilibrasi, Paul Vitányi|ArXiv.org|Dec 21, 2004

Computability, Logic, AI Algorithms参考文献 23被引用 27

一句话总结

本文提出 Google 相似距离（GSD），一种无需参数的语义相似度度量方法，利用 Google 的网页搜索命中次数作为上下文共现的代理指标，衡量词语和短语之间的语义相似度。通过利用柯尔莫哥洛夫复杂度和归一化信息距离原理，GSD 在聚类、分类和翻译任务中均表现出高精度，在基于支持向量机的随机分类测试中，与 WordNet 类别的平均一致率达到 87%。

ABSTRACT

Words and phrases acquire meaning from the way they are used in society, from their relative semantics to other words and phrases. For computers the equivalent of `society' is `database,' and the equivalent of `use' is `way to search the database.' We present a new theory of similarity between words and phrases based on information distance and Kolmogorov complexity. To fix thoughts we use the world-wide-web as database, and Google as search engine. The method is also applicable to other search engines and databases. This theory is then applied to construct a method to automatically extract similarity, the Google similarity distance, of words and phrases from the world-wide-web using Google page counts. The world-wide-web is the largest database on earth, and the context information entered by millions of independent users averages out to provide automatic semantics of useful quality. We give applications in hierarchical clustering, classification, and language translation. We give examples to distinguish between colors and numbers, cluster names of paintings by 17th century Dutch masters and names of books by English novelists, the ability to understand emergencies, and primes, and we demonstrate the ability to do a simple automatic English-Spanish translation. Finally, we use the WordNet database as an objective baseline against which to judge the performance of our method. We conduct a massive randomized trial in binary classification using support vector machines to learn categories based on our Google distance, resulting in an a mean agreement of 87% with the expert crafted WordNet categories.

研究动机与目标

• 开发一种无需依赖人工构建知识库的通用、无参数的词语和短语语义相似度度量方法。
• 利用搜索引擎查询结果中编码的全球网络集体隐式语义，特别是 Google 的网页计数估计值。
• 创建一种可扩展的自动化方法，从大规模、低质量的网络内容中发现相对语义。
• 证明该方法在聚类、分类和自动翻译等应用中的有效性。
• 在全网背景下，为计算密集型语义模型（如 WordNet 和 LSA）提供一种计算上可行的替代方案。

提出的方法

• 该方法使用 Google 对单个搜索词及其组合的网页命中次数，估算归一化 Google 距离（NGD），即归一化信息距离（NID）的一种变体。
• 应用柯尔莫哥洛夫复杂度和信息距离的理论框架，通过网页搜索结果中词对共现频率来近似语义相似度。
• Google 相似距离（GSD）源自 NGD 公式，通过网页计数的对数变换计算出词对之间的归一化、对称的相异度度量。
• 该方法通过仅依赖聚合网页计数，避免对网页内容的直接分析，从而在大规模语义发现中具备可扩展性和实用性。
• 通过大规模随机二分类实验，使用支持向量机验证该方法，将基于 GSD 的预测与专家标注的 WordNet 类别进行比较。
• 与潜在语义分析（LSA）相比，该方法避免了在全网范围内进行计算上不可行的矩阵运算，转而采用基于查询的采样方法。

实验结果

研究问题

• RQ1 能否在无需人工标注的前提下，仅从聚合网页搜索统计数据中可靠地推断词语和短语之间的语义相似度？
• RQ2 Google 相似距离与 WordNet 等成熟语义数据库相比，其准确度如何？
• RQ3 该方法能否有效支持聚类、分类和语言翻译等任务？
• RQ4 与基于矩阵的方法（如 LSA）相比，基于 Google 的方法在全网背景下是否具备可扩展性和可行性？
• RQ5 当将无参数、基于压缩的相似度度量应用于通过搜索引擎查询获取的真实网络数据时，其性能如何？

主要发现

• 在使用支持向量机进行大规模随机二分类实验中，Google 相似距离与专家构建的 WordNet 类别平均一致率达到 87%。
• 该方法成功区分了语义上不同的类别，如颜色与数字，并能正确聚类 17 世纪荷兰大师的画作名称以及英国小说家的书籍名称。
• 该方法展示了理解紧急相关术语语义上下文的能力，并能基于共现模式识别数学概念（如质数）。
• 该方法通过基于网络的相似度度量，实现了简单的自动英西翻译，即识别语义上相似的词对。
• 该技术优于基于频率向量的欧几里得距离方法，后者因计算不可行且性能极差而完全不可接受。
• 该方法在计算上可行且可扩展，而 LSA 在应用于全网时因所需矩阵规模过大而变得不可行。