[論文レビュー] Normalized Google Distance of Multisets with Applications

Andrew R. Cohen, Paul Vitányi|arXiv (Cornell University)|Aug 14, 2013

Computability, Logic, AI Algorithms参考文献 18被引用数 5

ひとこと要約

本稿は、検索キーワードの多重集合に対する正規化されたグーグル距離（NGD）を導入し、ウェブ検索頻度を用いて複数のキーワード間の共有される意味的類似性を捉えるために、2項間のNGDを拡張する。ウェブインターフェースやBingを用いた場合と比較して、分類タスク（分類群の構築や政治的候補者のクラスタリングなど）において優れた性能を示す。

ABSTRACT

Normalized Google distance (NGD) is a relative semantic distance based on the World Wide Web (or any other large electronic database, for instance Wikipedia) and a search engine that returns aggregate page counts. The earlier NGD between pairs of search terms (including phrases) is not sufficient for all applications. We propose an NGD of finite multisets of search terms that is better for many applications. This gives a relative semantics shared by a multiset of search terms. We give applications and compare the results with those obtained using the pairwise NGD. The derivation of NGD method is based on Kolmogorov complexity.

研究の動機と目的

• 2項間の正規化されたグーグル距離（NGD）を、意味的類似性の測定を向上させるために、キーワードの多重集合へと拡張すること。
• ウェブ検索頻度に基づく計算可能でパラメータフリーの類似度測定法を構築し、複数のキーワード間で共有される意味的関連性を捉えること。
• 2項間NGDがグループ構造を捉えられない場合に生じる実世界の分類タスクにおける本手法の性能を評価すること。
• 多重集合NGDを2項間NGD、Bing、Google n-gramと比較し、正確性および頑健性の観点から評価すること。

提案手法

• 多重集合NGDを $ NGD(X) = \frac{\max_{x \in X} \log f(x) - \log f(x_1, \dots, x_n)}{\log N - \min_{x \in X} \log f(x)} $ として定義し、ここで $ f(x) $ はキーワード $ x $ を含むページ数、$ f(x_1, \dots, x_n) $ はすべてのキーワードを含むページ数、$ N $ はインデックス済みページの総数である。
• キーワード頻度の集計値を取得するために、ワールドワイドウェブおよびグーグル（または他の検索エンジン）を大規模なデータベースとして利用する。
• 多重集合NGDを用いて、有限の多重集合としてのキーワード群の間の単一の類似度スコアを計算し、それらの集団的意味的関連性を表現する。
• スペクトラルクラスタリングとギャップ統計量を用いて、データ内のグループ構造を検証し、2項間NGDおよび代替の検索エンジンと比較する。
• グーグルAPI、グーグルWebユーザーインターフェース（WUI）、Bing、Google n-gramを用いて、プラットフォーム間での頑健性と性能を評価する。
• コルモゴロフ複雑度および情報距離の理論的性質を用いて手法を検証し、データサイズが増加するに従い普遍分布に収束することを示す。

実験結果

リサーチクエスチョン

• RQ1 2項間の正規化されたグーグル距離を、意味的類似性を捉えるために、複数のキーワードの多重集合へと意味的に拡張できるか？
• RQ2 生物分類群や政治的候補者といった複雑なデータを分類する際、多重集合NGDは2項間NGDと比べてどのように性能を発揮するか？
• RQ3 検索エンジン（グーグル対Bing）やインターフェース（API対WUI）の選択が、多重集合ベースの分類の正確性に顕著な影響を与えるか？
• RQ4 実際の応用において、多重集合NGDは三角不等式などのメトリック性質をどれほど保持または破壊するか？
• RQ5 顕著なグループ構造が既知のデータセット（脊椎動物の亜綱や政党所属など）において、多重集合NGDはどの程度の性能を発揮するか？

主な発見

• 多重集合NGDは、12種の脊椎動物亜綱（爬虫類、哺乳類、鳥類、魚類）をすべて正しくその分類群に分類した。
• 2008年米国予備選の候補者データセットでは、12人中11人の候補者を正しく分類し、ロン・ポールを民主党と誤分類したが、これは彼のリベラル主義的立場による可能性が高い。
• ギャップ統計量を用いた2項間NGDは分類群データにおいて唯一のグループしか特定しなかったが、多重集合NGDは正しく4つのグループをグローバルマックスとして特定した。
• スペクトラルクラスタリングを多重集合NGDで実行した結果、分類群および予備選挙候補者データセットの両方で完璧な分類が達成されたのに対し、2項間NGDは政党の分離を効果的に実現できなかった。
• グーグルAPIは、すべての多重集合分類タスクにおいてグーグルWUIおよびBingを上回る性能を示した。Bingは顕著に低い性能を示した。
• 実際の応用において、理論的にはメトリック性を満たさないにもかかわらず、多重集合NGDは三角不等式を破壊しなかった。また、データサイズが増加するに従い、普遍分布に収束する傾向を示した。