[論文レビュー] Clustering Mixed Numeric and Categorical Data: A Cluster Ensemble Approach

Zengyou He, Xiaofei Xu+1 more|ArXiv.org|Sep 5, 2005

Advanced Clustering Algorithms Research被引用数 52

ひとこと要約

本稿では、混合数値およびカテゴリカルデータのクラスタリングのためのクラスターエンsemble手法を提案する。データセットを数値およびカテゴリカルのサブデータセットに分割し、それぞれにタイプ固有のクラスタリングアルゴリズムを適用した後、最終的なカテゴリカルクラスタリング手順により結果を統合する。この手法は、多様なクラスタリングアルゴリズムを効果的に統合し、実データセットにおいて既存手法を上回る性能を発揮し、混合属性クラスタリングのための柔軟なフレームワークを提供する。

ABSTRACT

Clustering is a widely used technique in data mining applications for discovering patterns in underlying data. Most traditional clustering algorithms are limited to handling datasets that contain either numeric or categorical attributes. However, datasets with mixed types of attributes are common in real life data mining applications. In this paper, we propose a novel divide-and-conquer technique to solve this problem. First, the original mixed dataset is divided into two sub-datasets: the pure categorical dataset and the pure numeric dataset. Next, existing well established clustering algorithms designed for different types of datasets are employed to produce corresponding clusters. Last, the clustering results on the categorical and numeric dataset are combined as a categorical dataset, on which the categorical data clustering algorithm is used to get the final clusters. Our contribution in this paper is to provide an algorithm framework for the mixed attributes clustering problem, in which existing clustering algorithms can be easily integrated, the capabilities of different kinds of clustering algorithms and characteristics of different types of datasets could be fully exploited. Comparisons with other clustering algorithms on real life datasets illustrate the superiority of our approach.

研究の動機と目的

• 数値属性とカテゴリカル属性を併せ持つデータセットのクラスタリングという課題に対処すること。多くの従来のアルゴリズムは、これを効果的に処理できない。
• 数値データまたはカテゴリカルデータのいずれかに特化した手法に限られる既存のクラスタリング手法の限界を克服すること。
• 異なるデータタイプに特化した既存のクラスタリングアルゴリズムを容易に統合できる柔軟なフレームワークを構築すること。
• 複数のアルゴリズムの強みをエナセブル結合によって活用することで、クラスタリングの精度と頑健性を向上させること。
• 異種のデータタイプを扱う実世界のデータマイニング応用に適用可能なスケーラブルかつ拡張可能なソリューションを提供すること。

提案手法

• 元の混合属性データセットを、数値属性のみを含むサブデータセットと、カテゴリカル属性のみを含むサブデータセットに分割する。
• 数値データにはk-means、カテゴリカルデータにはk-modesといった、確立されたクラスタリングアルゴリズムをそれぞれのサブデータセットに適用し、初期クラスタリングを生成する。
• 両方のサブデータセットからのクラスタリング結果を、エナセブル処理に適した統一されたカテゴリカル表現に変換する。
• 統合された結果表現に対して、カテゴリカルデータのクラスタリングアルゴリズム（例：k-modes）を用いて最終的な統合クラスタリング結果を生成する。
• クラスターエンセブルのパラダイムを活用し、多様なクラスタリング結果を統合することで、安定性と精度を向上させる。
• 既存のクラスタリングアルゴリズムが変更なしに容易にフレームワークに統合可能であるように、互換性とモularityを確保する。

実験結果

リサーチクエスチョン

• RQ1 同種のデータタイプに特化したクラスタリングアルゴリズムを、混合属性データセットを効果的に処理できるようにどのように統合できるか。
• RQ2 分割統治戦略を用いることで、混合データ環境におけるクラスタリング精度と頑健性にどのような影響を与えるか。
• RQ3 クラスターエンセブルフレームワークは、混合数値およびカテゴリカルデータに対して、単一アルゴリズムアプローチと比較して性能を向上させることができるか。
• RQ4 本手法は、異なるデータタイプの特性をどのように保持しつつ、タイプ間の統合を可能にしているか。
• RQ5 フレームワークは、既存のクラスタリングアルゴリズムの拡張性および統合性をどの程度サポートしているか。

主な発見

• 提案手法であるクラスターエンセブルアプローチは、実世界の混合属性データセットにおいて、従来の単一アルゴリズム手法と比較して優れたクラスタリング性能を達成している。
• 数値処理とカテゴリカル処理を分離することで、混合データの異種性を効果的に処理し、タイプ固有の特性を保持している。
• 最終的なカテゴリカルクラスタリング手順による統合により、全体のクラスタリング品質と安定性が向上している。
• フレームワークは、既存のクラスタリングアルゴリズムのシームレスな統合を可能としており、さまざまなデータタイプや応用に適応可能で拡張性に優れている。
• 実データセットを用いた実証的評価により、本手法の頑健性と、混合属性データにおける意味のあるパターンの同定への有効性が確認された。