[論文レビュー] Semi-supervised Clustering Ensemble by Voting

Ashraf Mohammed Iqbal, Abidalrahman Moh’d+1 more|arXiv (Cornell University)|Aug 20, 2012

Advanced Clustering Algorithms Research参考文献 21被引用数 22

ひとこと要約

本稿では、投票ベースのコンSENSUS関数にユーザが提供する制約を統合することで、クラスタリング精度を向上させる半教師ありクラスタリングアンサンブルフレームワークを提案する。アルゴリズムとデータの適合性およびユーザフィードバックを評価する二パラメータ重み付け機構を導入し、再ラベル化と投票を用いて堅牢な最終クラスタを生成することで、従来の非教師ありアンサンブルよりも顕著に性能が向上する。

ABSTRACT

Clustering ensemble is one of the most recent advances in unsupervised learning. It aims to combine the clustering results obtained using different algorithms or from different runs of the same clustering algorithm for the same data set, this is accomplished using on a consensus function, the efficiency and accuracy of this method has been proven in many works in literature. In the first part of this paper we make a comparison among current approaches to clustering ensemble in literature. All of these approaches consist of two main steps: the ensemble generation and consensus function. In the second part of the paper, we suggest engaging supervision in the clustering ensemble procedure to get more enhancements on the clustering results. Supervision can be applied in two places: either by using semi-supervised algorithms in the clustering ensemble generation step or in the form of a feedback used by the consensus function stage. Also, we introduce a flexible two parameter weighting mechanism, the first parameter describes the compatibility between the datasets under study and the semi-supervised clustering algorithms used to generate the base partitions, the second parameter is used to provide the user feedback on the these partitions. The two parameters are engaged in a "relabeling and voting" based consensus function to produce the final clustering.

研究の動機と目的

• コンSENSUSフェーズに制限された監視情報を統合することで、クラスタリングアンサンブルの性能を向上させること。
• 複雑または曖昧なデータ構造を扱う際に、完全に非教師ありのクラスタリングアンサンブルに見られる限界を是正すること。
• ユーザがフィードバックや制約を提供できる柔軟なフレームワークを構築し、最終的なクラスタリング結果をガイドすること。
• 適合性とユーザフィードバックに基づいて動的に重み付けを行うコンSENSUS関数を設計すること。
• 実世界のデータセットを用いて、クラスタリングアンサンブルにおける半教師あり統合の有効性を評価すること。

提案手法

• 本手法は二段階のプロセスを採用する：複数のアルゴリズムを用いたベースクラスタリングアンサンブルの生成、その後に監視情報を統合したコンSENSUS関数の適用。
• ユーザフィードバックを統合しながらベースクラスタリングを集約する、新規の「再ラベル化と投票」コンSENSUS関数を提案する。
• 二つの重み付けパラメータを導入する：一つはデータとクラスタリングアルゴリズムの適合性を測るもの、もう一つはベースパーティションに対するユーザのフィードバックを反映するもの。
• コンSENSUS関数はこれらの重みを用いて投票の寄与度を調整し、最終的なクラスタリング品質を向上させる。
• 監視情報はベースクラスタリング段階ではなく、コンSENSUSフェーズに適用されるため、制約統合の柔軟性が保証される。
• フレームワークは、必須リンク（must-link）および不可リンク（cannot-link）制約の両方をフィードバックとしてサポートし、動的にクラスタ割り当てを調整する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして半教師あり制約をクラスタリングアンサンブルフレームワークに効果的に統合できるか？
• RQ2 アンサンブル設定下で、ユーザが提供するフィードバックが最終的なクラスタリング結果に与える影響は何か？
• RQ3 アルゴリズムとデータの適合性がクラスタリングアンサンブルの性能に与える影響は何か？
• RQ4 柔軟な二パラメータ重み付け機構は、コンSENSUS関数の頑健性と精度を向上させられるか？
• RQ5 提案された投票ベースのコンSENSUS関数は、従来の非教師ありアンサンブル手法と比べてどのように異なるか？

主な発見

• 提案された半教師ありクラスタリングアンサンブルは、ベンチマークデータセットにおいて、従来の非教師ありクラスタリングアンサンブルを上回る性能を示し、クラスタリング精度が向上している。
• 二パラメータ重み付け機構を通じたユーザフィードバックの統合により、最終クラスタの信頼性と品質が顕著に向上している。
• 異なるレベルの監視情報に対しても本手法は頑健であり、制限された制約のもとでも高い性能を維持している。
• 適合性パラメータは、データに対して最も関連性の高いベースクラスタリングを効果的に特定し、コンセンサス意思決定の質を向上させている。
• 再ラベル化と投票機構は、ベースクラスタリング間の矛盾を効果的に解消し、より一貫性のある最終クラスタを生成している。
• 実験的評価により、提案フレームワークがベースライン手法よりも優れた正規化相互情報量（NMI）および調整ランダ指数（ARI）スコアを達成していることが確認された。