[論文レビュー] Robust Clustering Using Tau-Scales

Juan Domingo González, Vı́ctor J. Yohai+1 more|arXiv (Cornell University)|Jun 19, 2019

Advanced Statistical Methods and Models参考文献 14被引用数 5

ひとこと要約

本稿では、K-meansおよびトリムドK-meansの限界を克服し、同時に高い破壊点と高い効率性を達成する、Tauスケール推定に基づく頑健なクラスタリング手法であるK-Tauセンターを提案する。この手法は、クラスタ中心推定の過程で外れ値を低減するための頑健なスケール測度を用い、弱い正則性条件の下で真の母集団クラスタ中心にほとんど確実に収束する強い一致性が示されている。

ABSTRACT

K means is a popular non-parametric clustering procedure introduced by Steinhaus (1956) and further developed by MacQueen (1967). It is known, however, that K means does not perform well in the presence of outliers. Cuesta-Albertos et al (1997) introduced a robust alternative, trimmed K means, which can be tuned to be robust or efficient, but cannot achieve these two properties simultaneously in an adaptive way. To overcome this limitation we propose a new robust clustering procedure called K Tau Centers, which is based on the concept of Tau scale introduced by Yohai and Zamar (1988). We show that K Tau Centers performs well in extensive simulation studies and real data examples. We also show that the centers found by the proposed method are consistent estimators of the "true" centers defined as the minimizers of the the objective function at the population level.

研究の動機と目的

• 外れ値に対して頑健でかつ綺麗なデータにおいても効率的なクラスタリング手順を開発すること。これは、トリムドK-meansに内在するトレードオフを克服することを目的とする。
• K-meansの外れ値への感受性を解消するために、ユークリッド距離の代わりにTauスケールに基づく頑健なスケール推定を用いること。
• 提案された推定量の理論的一貫性を確立すること。具体的には、目的関数の母集団レベルの最小化点に収束することを証明すること。
• 事前にトリミング割合を指定する必要のない、実用的で適応可能な、既存の頑健なクラスタリング手法の代替案を提供すること。

提案手法

• 本手法は、Tauスケール推定に基づく頑健な目的関数を最小化することでクラスタ中心を定義する。この手法は、高いガウス効率と高い破壊点を両立する。
• 反復アルゴリズムを用いて中心を計算する。この際、Tauスケールは、データポイントと現在のクラスタ中心との距離から計算される。
• Tauスケールは、2つの有界で偶関数かつ非減少関数 ρ₁ と ρ₂ を用いて構築され、頑健性と効率性を確保する。
• トリミング閾値を事前に指定する必要なく、スケール推定プロセスを通じて距離の遠い点（潜在的な外れ値）を適応的に低減する。
• 推定されたクラスタ中心が母集団中心にハウスドルフ距離の意味で収束することを証明し、コンパクト集合上での大数の強法則を用いる。
• 理論的裏付けは、目的関数の一様収束性と連続性から導かれる強いつ致性結果に依存する。

実験結果

リサーチクエスチョン

• RQ1 正規分布に従うデータにおいても高い効率性を維持し、かつ外れ値に対して頑健であるクラスタリング手順を開発できるか。この際、トリミング割合の事前指定は不要である。
• RQ2 クラスタ中心推定にTauスケールを用いることで、真の母集団中心に収束する一貫性のある推定量が得られるか。
• RQ3 外れ値が混入した有限標本において、K-TauセンターはK-meansおよびトリムドK-meansと比較してどの程度の性能を示すか。
• RQ4 一般条件下でK-Tauセンター推定量の一貫性の理論的根拠は何か。
• RQ5 欠落した物体検出を伴う実世界のデータ、例えば人工衛星画像に、この手法は効果的に適用可能か。

主な発見

• K-Tauセンター手法は、高い破壊点と高いガウス効率を両立しており、トリムドK-meansに内在する根本的なトレードオフを克服している。
• 推定されたクラスタ中心は強いつ致性を示し、目的関数の母集団最小化点にほとんど確実に収束する。
• シミュレーション研究により、外れ値が存在する状況下で、K-TauセンターはK-meansおよびトリムドK-meansを上回る優れた性能を示している。
• 本手法は人工衛星画像におけるクラスタの同定に成功し、欠落した物体の検出を支援するなど、実用的有用性を示している。
• 理論的分析により、推定された中心と真の中心との間のハウスドルフ距離がほとんど確実に0に収束することが確認された。