[論文レビュー] The similarity metric

Ming Li, Xin Chen+3 more|arXiv (Cornell University)|Nov 20, 2001

Computability, Logic, AI Algorithms参考文献 25被引用数 7

ひとこと要約

本稿では、コルモゴロフ複雑度に基づく普遍的な類似性尺度である正規化情報距離（NID）を提案する。NIDは、すべての計算可能な類似性距離を下回る。標準的な圧縮アルゴリズムを用いて実用的な近似として正規化圧縮距離（NCD）を導入し、全自動でミトコンドリアゲノムの系統樹と52言語の家族系統樹を構築した。これは、ドメイン固有のパラメータを必要とせず、多様な分野にわたり高い耐障害性を示している。

ABSTRACT

A new class of distances appropriate for measuring similarity relations between sequences, say one type of similarity per distance, is studied. We propose a new ``normalized information distance'', based on the noncomputable notion of Kolmogorov complexity, and show that it is in this class and it minorizes every computable distance in the class (that is, it is universal in that it discovers all computable similarities). We demonstrate that it is a metric and call it the {\em similarity metric}. This theory forms the foundation for a new practical tool. To evidence generality and robustness we give two distinctive applications in widely divergent areas using standard compression programs like gzip and GenCompress. First, we compare whole mitochondrial genomes and infer their evolutionary history. This results in a first completely automatic computed whole mitochondrial phylogeny tree. Secondly, we fully automatically compute the language tree of 52 different languages.

研究の動機と目的

• ドメイン固有の知識や特徴を必要としない、一般的な類似性の数学的理論の構築を目的とする。
• すべての計算可能なシーケンス間の類似関係を捉える普遍的な距離尺度の定義を目的とする。
• この尺度がバイオインフォマティクスや計算言語学などの実世界の分野に応用可能であることを示すことを目的とする。
• 非計算可能なNIDの実用的かつ計算可能な近似を、標準的な圧縮アルゴリズムを用いて提供することを目的とする。
• 進化系統樹と言語系統樹の自動構築を通じて、手法の妥当性を検証することを目的とする。

提案手法

• コルモゴロフ複雑度から導かれる普遍的尺度として正規化情報距離（NID）を提案し、2つのオブジェクト間の条件付き複雑度の正規化された和として定義する。
• 実世界の圧縮アルゴリズム（例：gzip、GenCompress）を用いて、NIDの実用的近似として正規化圧縮距離（NCD）を導入する。
• NCDは以下の式で計算される：NCD(x,y) = [C(xy) - min(C(x), C(y))]/max(C(x), C(y))、ここでC(z)はzの圧縮サイズを表す。
• NCDをシーケンスの階層的クラスタリングに適用し、系統樹や言語系統樹の自動構築を可能にする。
• 言語系統樹構築において、既知の言語系統族から独立させるためにバスク語をアウトグループとして用いる。
• チューニングや特徴工学を一切行わず、標準的な圧縮プログラムを用いることで、パラメータフリーのデータマイニングを実現する。

実験結果

リサーチクエスチョン

• RQ1 すべての計算可能なシーケンス間の類似関係を捉える普遍的な類似性尺度を定義できるか？
• RQ2 正規化情報距離（NID）は、三角不等式を含むすべての距離の性質を満たす有効な距離関数とみなせるか？
• RQ3 NIDの実用的近似であるNCDを用いて、生のシーケンスデータから自動的に進化的・言語的関係を推定できるか？
• RQ4 ドメイン固有の知識なしに、既知の生物学的・言語的系統樹をどれほど正確に再構築できるか？
• RQ5 ゲノムと言語学といった著しく異なる分野においても、この手法は耐障害性を保つのか？

主な発見

• 正規化情報距離（NID）は距離関数として証明され、三角不等式を含むすべての距離の性質を満たすことが示された。
• NIDは、有効な類似性測定のクラスにおいて、すべての計算可能な距離を下回るという意味で普遍的である。
• 正規化圧縮距離（NCD）は、全自動でミトコンドリアゲノムの系統樹を正確に再構築でき、既知の進化的関係と一致した。
• NCD手法により、52種のヨーロッパ＝アジア言語の系統樹が構築され、歴史的・言語学的分類と整合的であった。英語はラテン語系とケルト語系の間に位置づけられ、ハンガリー語はトゥルク語族と分離された。
• パラメータチューニングなしに1回の実行で得られた結果は、分野を越えた耐障害性と一般化可能性を示している。
• 任意の三角不等式化を避けることと理論的根拠の欠如を理由に、NCDは特徴のない圧縮ベースのアプローチを上回った。