[論文レビュー] Hierarchical Affinity Propagation

Inmar E. Givoni, Clement Chung+1 more|arXiv (Cornell University)|Feb 14, 2012

Genomics and Phylogenetic Studies参考文献 24被引用数 41

ひとこと要約

本稿では、階層的構造を持つデータのクラスタリングを目的とした、階層的アフィニティプロパゲーション（HAP）を提案する。HAPは、階層の複数レベルに跨るメッセージパッシングを用いる、原理的かつ整合的な拡張手法であり、合成HIV変異データおよび実際のHIV配列において、グリーディで層別的な手法を上回る性能を発揮する。目的関数の値が向上し、地理的要因やウイルスサブタイプと整合した意味のあるクラスタリングが得られる。また、質量分析法のデータに対しても良好な性能を示す。

ABSTRACT

Affinity propagation is an exemplar-based clustering algorithm that finds a set of data-points that best exemplify the data, and associates each datapoint with one exemplar. We extend affinity propagation in a principled way to solve the hierarchical clustering problem, which arises in a variety of domains including biology, sensor networks and decision making in operational research. We derive an inference algorithm that operates by propagating information up and down the hierarchy, and is efficient despite the high-order potentials required for the graphical model formulation. We demonstrate that our method outperforms greedy techniques that cluster one layer at a time. We show that on an artificial dataset designed to mimic the HIV-strain mutation dynamics, our method outperforms related methods. For real HIV sequences, where the ground truth is not available, we show our method achieves better results, in terms of the underlying objective function, and show the results correspond meaningfully to geographical location and strain subtypes. Finally we report results on using the method for the analysis of mass spectra, showing it performs favorably compared to state-of-the-art methods.

研究の動機と目的

• 生物学、センサーネットワーク、オペレーションズリサーチなどの分野における原理的で整合的な階層的クラスタリングのニーズに対応する。
• グリーディで層別的なクラスタリング手法の限界を克服し、グローバルな構造を捉える。
• 階層的グラフィカルモデルにおける高次ポテンシャルを効率的に取り扱う推論アルゴリズムを開発する。
• 広範なグループから細分化されたサブグループに至るまで、複数の階層レベルのデータ構造を同時に同定できるクラスタリングを可能にする。
• 真のラベルが限られている、あるいは存在しない現実世界のデータにおいて、性能が向上することを示す。

提案手法

• 階層的ポテンシャルを備えた多層グラフィカルモデルを導入することで、アフィニティプロパゲーションフレームワークを階層的クラスタリングに拡張する。
• 階層内のレベルおよび異なるレベル間で、責任（responsibility）と利用可能性（availability）のメッセージを伝達するメッセージパッシングアルゴリズムを設計する。
• 階層の異なるレベルにおけるクラスタ間の依存関係をモデル化するために高次ポテンシャルを組み込む。
• 分割関数の近似を可能にする変分推論アプローチを用い、最適化を実行可能にする。
• 代表例の選択と階層的クラスタ割り当てを同時に最適化する目的関数を定式化する。
• 構造的なメッセージパッシングにより、高次相互作用の複雑さにもかかわらず計算効率を確保する。

実験結果

リサーチクエスチョン

• RQ1 アフィニティプロパゲーションは、原理的推論を可能にする階層的クラスタリングに拡張可能か？
• RQ2 提案手法の階層的アプローチは、グリーディで層別的なクラスタリング手法と比較して、どのように性能を発揮するか？
• RQ3 真のラベルが不明なHIV配列データにおいて、本手法は生物学的に意味のあるクラスタを回復できるか？
• RQ4 質量分析法のデータにおいて、最先端の手法と比較して本手法は優れたクラスタリング品質を達成できるか？
• RQ5 得られたクラスタは、既知の生物学的要因（例えば地理的起源やウイルスサブタイプ）とどれほど整合性を示すか？

主な発見

• HAPは、HIV系統の変異ダイナミクスを模倣した合成データセットにおいて、グリーディクラスタリング手法を上回る性能を発揮する。
• 実際のHIV配列において、HAPは競合手法と比較して、元の目的関数値がより良好である。
• HAPが生成するクラスタは、HIV系統の既知の地理的起源およびウイルスサブタイプと強く一致する。
• HAPは質量分析法のデータに対しても優れた性能を示し、最先端のクラスタリング手法を上回る。
• 本手法は、データ内の多層構造を効果的に捉えており、広範なグループ化と細分化されたサブ構造の両方を明らかにする。
• 高次ポテンシャルを含む階層的モデルにおいても、メッセージパッシングアルゴリズムは計算効率を維持している。