[論文レビュー] A simple and fast method to determine the parameters for fuzzy c-means cluster validation

Veit Schwämmle, Ole N. Jensen|arXiv (Cornell University)|Apr 8, 2010

Advanced Clustering Algorithms Research参考文献 20被引用数 5

ひとこと要約

本稿では、データの次元数とオブジェクト数のみから最適なファジィ化パラメータを推定することで、ファジィc-平均クラスタリングにおける最適なファジィ化パラメータを高速かつデータに依存しない方法で特定する手法を提案する。この手法は、最小重心距離をバリデーション指標として用い、計算コストの高い代替手法を上回り、特に最適値が2より大きい低次元データセットにおいて、一般的に使われる2に設定するという手法の欠陥を回避する。

ABSTRACT

Fuzzy c-means clustering is widely used to identify cluster structures in high-dimensional data sets, such as those obtained in DNA microarray and quantitative proteomics experiments. One of its main limitations is the lack of a computationally fast method to determine the two parameters fuzzifier and cluster number. Wrong parameter values may either lead to the inclusion of purely random fluctuations in the results or ignore potentially important data. The optimal solution has parameter values for which the clustering does not yield any results for a purely random data set but which detects cluster formation with maximum resolution on the edge of randomness. Estimation of the optimal parameter values is achieved by evaluation of the results of the clustering procedure applied to randomized data sets. In this case, the optimal value of the fuzzifier follows common rules that depend only on the main properties of the data set. Taking the dimension of the set and the number of objects as input values instead of evaluating the entire data set allows us to propose a functional relationship determining its value directly. This result speaks strongly against setting the fuzzifier equal to 2 as typically done in many previous studies. Validation indices are generally used for the estimation of the optimal number of clusters. A comparison shows that the minimum distance between the centroids provides results that are at least equivalent or better than those obtained by other computationally more expensive indices.

研究の動機と目的

• ファジィc-平均クラスタリングにおける最適なファジィ化パラメータを特定する高速で計算効率の良い手法の欠如に応えること。
• 特定のノイズ特性を持つデータに対して最適でない可能性がある2にファジィ化パラメータを設定することへの依存を減らすこと。
• ランダムなフラクチュエーションによる誤検出を最小限に抑えつつ、弱いが実在のクラスタ構造を保持するため、クラスタバリデーションの正確性を向上させること。
• 全データセットの処理を回避するパラメータ推定手法を提供することで、より大きなデータセットへのスケーラビリティを実現すること。
• 最小重心距離が、クラスタ数を特定するための伝統的なバリデーション指標の低コストで頑健な代替手段として機能することを検証すること。

提案手法

• 最適なファジィ化パラメータは、データの完全な処理を回避し、次元数（D）とオブジェクト数（N）のみを用いて推定される。
• この手法は、DとNに基づく関数的関係を導出し、データセット上で反復的評価を回避する。
• クラスタ中心間の最小重心距離が、最適なクラスタ数（c）を特定する主なバリデーション指標として用いられる。
• ランダム化されたデータセット上でクラスタリング結果を評価し、ランダムなクラスタ形成を最大限に抑制しながら実際の構造を保持するファジィ化パラメータを同定する。
• 人工データ（既知のパラメータを有する）と実際のプロテオミクスデータ（血清セット）を用いて検証され、一貫した性能を示した。
• 低次元データセット（例：D < 8, N < 200）では、ファジィ化パラメータの最適値が2よりも顕著に高く、一般的に使われる2という仮定に疑問を呈する。

実験結果

リサーチクエスチョン

• RQ1 ファジィc-平均クラスタリングにおける最適なファジィ化パラメータを推定する高速でデータに依存しない方法は何か？
• RQ2 最適なファジィ化パラメータの値は、データの次元数とサンプルサイズにどのように依存するか？
• RQ3 最小重心距離は、伝統的なバリデーション指標の信頼性があり、計算コストが低い代替手段として機能できるか？
• RQ4 なぜ2にファジィ化パラメータを設定することが、特に低次元データセットにおいて不適切なのか？
• RQ5 提案手法は、次元が限定的でサンプルサイズが小さい現実のプロテオミクスデータに対してどのように性能を発揮するか？

主な発見

• 最適なファジィ化パラメータは常に2ではない。低次元データセット（例：D < 8, N < 200）では顕著に増加し、2を超える値を示す。
• 提案手法はDとNのみを用いて最適なファジィ化パラメータを推定し、データ処理を回避するため計算が非常に効率的である。
• 最小重心距離バリデーション指標は、より複雑な指標と同等以上、あるいはそれ以上の結果を提供し、真のクラスタ数で明確な減少を示す。
• D=13, N=500, M=10, w=2 の人工データに対して、m_t=1.25 を用いて正しくc=10を最適と同定した。
• 血清プロテオミクスデータセット（D≈13, N=500）では、最小重心距離がc=5を最適と示し、他の指標と整合的であった。
• 偏りや低次元性があるデータは、パrameterチューニングに注意を要することを、この手法が明らかにした。標準的なデフォルト設定では、クラスタ解像度が低下したり過学習が生じたりする。