[論文レビュー] On Variants of k-means Clustering

Bhattiprolu, Vijay V. S. P., Har-Peled, Sariel|arXiv (Cornell University)|Dec 9, 2015

Computational Geometry and Mesh Generation参考文献 29被引用数 13

ひとこと要約

本稿では、施設の設置コストと二乗距離の和の組み合わせを最小化することを目的とする、k-平均クラスタリングの変種である和の二乗施設配置問題（SOS-FL）の局所探索に基づく多項式時間近似スキーム（PTAS）を提示する。任意の固定次元dとε > 0に対して、(1 + ε)-近似が達成可能であり、固定次元ユークリッド空間におけるSOS-FLがPTASを有するかどうかという未解決の問題を解決する。

ABSTRACT

Given a set P of n points in R^d , we show how to insert a set Z of O(n^(1-1/d)) additional points, such that P can be broken into two sets P1 and P2 , of roughly equal size, such that in the Voronoi diagram V(P u Z), the cells of P1 do not touch the cells of P2; that is, Z separates P1 from P2 in the Voronoi diagram (and also in the dual Delaunay triangulation). In addition, given such a partition (P1,P2) of P , we present an approximation algorithm to compute a minimum size separator realizing this partition. We also present a simple local search algorithm that is a PTAS for approximating the optimal Voronoi partition.

研究の動機と目的

• 和の二乗施設配置問題（SOS-FL）が固定次元ユークリッド空間で多項式時間近似スキーム（PTAS）を有するかどうかを調査すること。
• k-平均クラスタリングの難易度が、二乗距離の和の目的関数に起因するのか、それとも中心数のグローバル制約に起因するのかを理解すること。
• SOS-FLに対して、近似的に最適な性能保証を達成する局所探索ベースの近似アルゴリズムを開発すること。
• SOS-FLの洞察を古典的k-平均問題へと拡張し、グローバル制約と二乗距離目的関数の役割を分析すること。

提案手法

• 施設コストと割り当てコストに基づくポテンシャル関数を用いた、施設の入れ替えによる反復的改善を行う局所探索ヒューリスティクスの設計。
• k-平均問題に適応した二基準局所探索アルゴリズムの導入。このアルゴリズムは(1 + ε)k個の施設を用い、最適k-平均コストの(1 + ε)以内の解を得る。
• 近似比の上限を求めるために、ポテンシャル関数の分析と充電法を用い、固定次元における幾何的性質を活用する。
• 解空間のクラスタリングに基づく分解と再帰的精錬プロセスを用いて、(1 + ε)-近似解への収束を保証する。
• 幾何的問題に対するAroraのPTASにインspiredした技術を採用。局所改善の詳細な分析を通じて、二乗距離を扱えるように適応する。
• 局所探索アルゴリズムが任意の固定次元dにおいて多項式時間で終了し、SOS-FLに対して(1 + ε)-近似が得られることを証明する。

実験結果

リサーチクエスチョン

• RQ1 和の二乗施設配置問題（SOS-FL）は固定次元ユークリッド空間でPTASを有するか？
• RQ2 k-平均やSOS-FLのような二乗距離を含む幾何的問題に対して、局所探索手法は効果的に適用可能か？
• RQ3 k-平均クラスタリングのNP困難性は、主に二乗和目的関数に起因するのか、それとも中心数のグローバル制約に起因するのか？
• RQ4 k-平均問題に対して、二基準局所探索アルゴリズムは(1 + ε)k個の施設のみを用いて(1 + ε)-近似を達成できるか？
• RQ5 施設コストパラメータfは、施設数と二乗距離の和のトレードオフをどのように調整するか？

主な発見

• 本稿では、任意の固定次元dにおいてSOS-FLの局所探索PTASを提示し、任意のε > 0に対して(1 + ε)-近似を達成する。
• アルゴリズムは多項式時間で実行され、施設の入れ替えによる局所探索ヒューリスティクスを用い、ポテンシャル関数により収束を保証する。
• k-平均問題に対して、(1 + ε)k個の施設を用い、最適k-平均コストの(1 + ε)以内の解を得る二基準局所探索アルゴリズムを設計した。
• 分析により、局所探索法が二乗距離を効果的に扱えることが示され、従来の手法が達成できた9 + εの近似比を上回る近似的に最適な境界が得られた。
• この結果は、グローバル制約と二乗和目的関数の組み合わせがk-平均を困難にしていることを示唆し、目的関数自体が原因ではないことを示す。
• 開発されたフレームワークは、幾何的近似における局所探索の分析に一般的なアプローチを提供し、二乗距離を含む他の問題への応用が期待される。