[論文レビュー] Outlier Detection using Improved Genetic K-means

M. H. Marghny, Ahmed I. Taloba|arXiv (Cornell University)|Feb 27, 2014

Anomaly Detection Techniques and Applications参考文献 5被引用数 9

ひとこと要約

本稿では、繰り返しクラスターセンターオブジェクトを最適化し、それらから遠く離れたデータポイントを削除することで、同時にクラスタリングと外れ値検出を実行する改善された遺伝的k-meansアルゴリズム（IGK）を提案する。遺伝的アルゴリズムによる最適化によりセンターオブジェクトの推定が向上し、より頑健なクラスタリングとノイズとしての外れ値の効果的な同定が可能となり、標準k-meansと比較して正確性と安定性の向上が実証された。

ABSTRACT

The outlier detection problem in some cases is similar to the classification problem. For example, the main concern of clustering-based outlier detection algorithms is to find clusters and outliers, which are often regarded as noise that should be removed in order to make more reliable clustering. In this article, we present an algorithm that provides outlier detection and data clustering simultaneously. The algorithmimprovesthe estimation of centroids of the generative distribution during the process of clustering and outlier discovery. The proposed algorithm consists of two stages. The first stage consists of improved genetic k-means algorithm (IGK) process, while the second stage iteratively removes the vectors which are far from their cluster centroids.

研究の動機と目的

• 従来のk-meansがクラスタリング中に外れ値の処理や不安定なセンターオブジェクト推定に直面する限界を解消すること。
• 前処理ステップを別途必要としない、統合的かつ一貫したフレームワークを構築し、同時にクラスタリングと外れ値検出を実行すること。
• 外れ値の影響を段階的に削減することで、クラスタ構造の頑健性を向上させること。
• クラスタリングプロセス中にセンターオブジェクトの位置を最適化する遺伝的アルゴリズムを用いて、センターオブジェクト推定を強化すること。

提案手法

• アルゴリズムは、選択、交差、変異といった遺伝的アルゴリズムの原則を用いて、初期化およびセンターオブジェクトの最適化を実行する改善された遺伝的k-means（IGK）アプローチを採用する。
• データポイントとその割り当てられたクラスターセンターオブジェクト間の二乗距離の合計を最小化するフィットネス関数を用いる。
• 初期クラスタリング後、割り当てられたクラスターセンターオブジェクトから遠く離れたベクトルを段階的に特定・削除し、潜在的な外れ値として扱う。
• 外れ値の閾値を満たす追加のポイントが存在しなくなるまでプロセスを繰り返し、クラスタ構造とセンターオブジェクトの正確性を両方とも改善する。
• 外れ値検出はクラスタリングループ内に埋め込まれており、各削除ステップ後にクラスタ割り当てを動的に再評価できる。
• 進化計算とk-meansを統合することで、ノイズを含むデータにおいてもより安定的かつ正確なクラスタリング結果が得られる。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてクラスタリングと外れ値検出を一つの統合的プロセスに効果的に統合できるか？
• RQ2 遺伝的アルゴリズムに基づくセンターオブジェクト初期化は、標準k-meansと比較してクラスタリングの安定性と正確性をどの程度向上させるか？
• RQ3 距離の遠いポイントを段階的に削除することで、ノイズの多いデータセットにおけるクラスタ形成の頑健性が向上するか？
• RQ4 外れ値検出性能と収束行動の観点から、提案手法IGKは従来のk-meansと比べてどの程度優れているか？

主な発見

• IGKアルゴリズムは、遺伝的探索によるセンターオブジェクト位置の最適化により、標準k-meansと比較してより高いクラスタリング正確性と安定性を達成する。
• 外れ値検出がクラスタリングプロセスに効果的に統合されており、後処理や別個の外れ値同定ステップの必要性が低減される。
• センターオブジェクトから遠く離れたポイントの繰り返し削除により、より明確なクラスタ構造が得られ、モデルの頑健性が向上する。
• ノイズの多いデータの処理において優れた性能を示しており、初期センターオブジェクト選択への感受性が低く、収束性が向上していることが実証された。