[論文レビュー] Similarity of Objects and the Meaning of Words

Rudi Cilibrasi, Paul Vitányi|UvA-DARE (University of Amsterdam)|Feb 17, 2006

linguistics and terminology studies被引用数 31

ひとこと要約

本稿では、圧縮に基づくコルモゴロフ複雑度とウェブベースのGoogle距離（NGD）を用いて、パラメータフリーの普遍的類似性測度を提案し、事前の特徴工学を要せず、多様なドメインに跨るデータクラスタリングおよび意味的分析を可能にした。WordNetのカテゴリを学習する際、平均87.25%の正確度を達成し、人間によるアノテーションと強い整合性を示した。

ABSTRACT

We survey the emerging area of compression-based, parameter-free, similarity distance measures useful in data-mining, pattern recognition, learning and automatic semantics extraction. Given a family of distances on a set of objects, a distance is universal up to a certain precision for that family if it minorizes every distance in the family between every two objects in the set, up to the stated precision (we do not require the universal distance to be an element of the family). We consider similarity distances for two types of objects: literal objects that as such contain all of their meaning, like genomes or books, and names for objects. The latter may have literal embodyments like the first type, but may also be abstract like ``red'' or ``christianity.'' For the first type we consider a family of computable distance measures corresponding to parameters expressing similarity according to particular featuresdistances generated by web users corresponding to particular semantic relations between the (names for) the designated objects. For both families we give universal similarity distance measures, incorporating all particular distance measures in the family. In the first case the universal distance is based on compression and in the second case it is based on Google page counts related to search terms. In both cases experiments on a massive scale give evidence of the viability of the approaches. between pairs of literal objects. For the second type we consider similarity

研究の動機と目的

• 異なるデータタイプに跨るあらゆる有効な距離測度を捉えることのできる、普遍的でパラメータフリーの類似性測度を開発すること。
• ゲノムやテキストなどの具体的なデータと、「赤」や「キリスト教」のような抽象的名前との間のギャップを、単一のフレームワークで類似性測定を統一すること。
• 実世界のデータ、特に意味的分類タスクにおいて、圧縮ベースおよびウェブベースの類似性測度の有効性を評価すること。
• 人間が構築した意味的階層（例：WordNet）と整合性を保つために、提案手法を専門家によるアノテーション済み意味的リソースと比較検証すること。

提案手法

• コルモゴロフ複雑度に基づく正規化圧縮距離（NCD）を用いて、ゲノムやテキストなどの具体的な対象間の類似性を計算し、圧縮効率を共有情報の代理指標として扱う。
• Googleのページカウントを用いて、語の名前間の正規化Google距離（NGD）を計算し、検索頻度を用いてウェブ規模の文脈での意味的関連性を推定する。
• NCDおよびNGD行列に対して、四分木法の高速ヒューリスティックを用いた階層的クラスタリングを適用し、類似する対象や語を可視化およびグループ化する。
• 各語の6アンカーNGDベクトル表現を用い、各成分を語と事前に定義されたアンカー集合とのNGDとして定義し、SVMを用いた分類を可能にする。
• 分類性能を最適化するために、5分割交差検証を用いてSVMのハイパーパrameter（カーネル幅および誤差コスト）を自動でチューニングする。
• アンカーおよび個々の語の事前計算済みGoogle検索カウントを再利用することで、重複するクエリを低減し、計算コストを最大90%まで削減する。

実験結果

リサーチクエスチョン

• RQ1 圧縮に基づく類似性測度が、編集距離、アラインメント、Lempel-Zivなど、異なるデータドメインにおける多様な類似性タイプ（例：「編集距離」）を効果的に捉えることができるか？
• RQ2 ウェブ検索頻度に基づくNGDが、語の名前間の人の構築した意味的関係をどれほど正確に反映するか？
• RQ3 提案手法は、WordNetのような専門家によるアノテーション済みリソースと比較して、意味的カテゴリ（例：「電気的」）の学習および分類においてどれほど高い性能を示すか？
• RQ4 文化的遺産テキストや多様な意味的カテゴリを含む大規模な実世界データに適用した際、この手法のスケーラビリティおよびロバストネスはどの程度か？
• RQ5 「ジュリアス・カエサル」のような曖昧な語に対しても、周囲の対象からの文脈を活用することで、この手法は高い正確度を維持できるか？

主な発見

• 圧縮ベースのNCD手法は、特徴工学を要せず、音楽、テキスト、ゲノムなど多様なデータタイプを正しくクラスタリングでき、ドメインを跨ぐロバストネスを示した。
• NGDベースの手法は、SVMを用いて意味的カテゴリ分類で平均87.25%の正確度を達成し、標準偏差約0.1169であるため、一貫性のある性能を示した。
• 「電気的」関連語の制御実験では、100%のテスト例が正しく分類され、曖昧でない意味的カテゴリに対して高い精度を示した。
• 「ジュリアス・カエサル」のような曖昧語に対しても、周囲の対象からの文脈が意味的意味を決定するため、システムは依然として有効であった。
• 100回の実験に必要なGoogle検索の総数は49,600件に制限され、クエリキャッシュと再利用により計算効率が著しく向上した。
• この手法は、ゴールドスタンダードな意味的リソースであるWordNetと強い一致を示し、自動的な意味的抽出および学習に有効であることを検証した。