[論文レビュー] Faster Balanced Clusterings in High Dimension

Hu Ding|arXiv (Cornell University)|Sep 4, 2018

Facility Location and Emergency Management参考文献 47被引用数 3

ひとこと要約

本稿では、高次元空間におけるバランス型クラスタリングを高速化するための新しい幾何的枠組みを提示する。空間分割を用いることで、バランス型 $k$-center、$k$-median、$k$-means問題の解法を単純化・高速化する。$k$-centerに対しては $4$-近似を達成し、$k$ が定数のとき、$k$-median および $k$-means に対して定数または $(1+\rho)$-近似を、線形またはほぼ線形時間で達成する。これは、従来の手法に比べ顕著な改善をもたらす。

ABSTRACT

The problem of constrained clustering has attracted significant attention in the past decades. In this paper, we study the balanced $k$-center, $k$-median, and $k$-means clustering problems where the size of each cluster is constrained by the given lower and upper bounds. The problems are motivated by the applications in processing large-scale data in high dimension. Existing methods often need to compute complicated matchings (or min cost flows) to satisfy the balance constraint, and thus suffer from high complexities especially in high dimension. We develop an effective framework for the three balanced clustering problems to address this issue, and our method is based on a novel spatial partition idea in geometry. For the balanced $k$-center clustering, we provide a $4$-approximation algorithm that improves the existing approximation factors; for the balanced $k$-median and $k$-means clusterings, our algorithms yield constant and $(1+ε)$-approximation factors with any $ε>0$. More importantly, our algorithms achieve linear or nearly linear running times when $k$ is a constant, and significantly improve the existing ones. Our results can be easily extended to metric balanced clusterings and the running times are sub-linear in terms of the complexity of $n$-point metric.

研究の動機と目的

• 高次元空間における複雑なマッチングや最小費用流に基づく既存のバランス型クラスタリングアルゴリズムの計算非効率性を解消すること。
• バランス型クラスタリングの3つの主要問題（$k$-center、$k$-median、$k$-means）を統一的かつ幾何学的アプローチで簡素化・高速化するフレームワークの構築。
• 特に $k$ が定数のとき、時間計算量の低減と同時に、証明可能な良好な近似比を達成すること。
• フレームワークを距離空間へ拡張し、$n$ に関して非線形またはほぼ線形の実行時間の保証を得ること。

提案手法

• 高次元幾何における新しい空間分割技術を導入し、クラスタ割り当てとバランス制約の実装を分離する。
• Chenの二基準 $k$-median/$k$-meansアルゴリズムを用いて、$O(k)$ 個の候補となる中心点を生成し、探索空間を縮小する。
• 線形計画法（LP）の緩和と丸め手順（定理 2.2）を用い、分数解をサイズ制約を満たす整数的クラスタ割り当てに変換する。
• スプレッド比 $\Delta$ と $\epsilon$-依存サンプリングを活用し、距離比を制御し、$k$-median および $k$-means に対して $(1+\epsilon)$-近似を保証する。
• 文献[14]および[26]の技術を応用し、$(1+\epsilon)$-近似解をもたらす高確率での候補 $k$-タプルの中心点を生成する。
• 幾何的洞察とLPに基づく丸めを統合し、計算オーバーヘッドを最小限に抑えつつ近似保証を維持する。

実験結果

リサーチクエスチョン

• RQ1 バランス型クラスタリングにおいて、複雑なマッチングや最小費用流計算を置き換える幾何的空間分割アプローチは可能か？
• RQ2 $k$ が定数のとき、$k$-median および $k$-means に対して近似的に線形時間で定数または $(1+\epsilon)$-近似を達成できるか？
• RQ3 提案手法は高次元ユークリッド空間および距離空間においてどのようにスケーリングするか？
• RQ4 $k$-centerクラスタリングにおいて、先行研究の最良状態を上回る近似因子を達成できるか？
• RQ5 提案フレームワークにおける近似品質と実行時間のトレードオフはいかなるものか？

主な発見

• 本稿では、バランス型 $k$-centerクラスタリングに対して $4$-近似アルゴリズムを提示し、従来の最良近似因子を改善した。
• バランス型 $k$-median および $k$-means に対しては、$k$ が定数のとき $O(nd + (\log\Delta)^{3k}\log^2(\log\Delta))$ 時間で $O(1)$-近似を達成した。
• 文献[14]による改良された候補生成を用いることで、$k$-median および $k$-means に対して $(1+\epsilon)$-近似を $O(2^{\tilde{O}(k/\epsilon^{O(1)})}(nd + (\frac{\log(\Delta/\epsilon)}{\epsilon})^{3k}(\log\frac{1}{\epsilon} + \log\log\Delta)^2))$ 時間で達成した。
• フレームワークは距離空間へ拡張可能であり、距離空間の $k$-BMedian および $k$-BMeans に対して $O(1)$-近似を $O(nD + (\log\Delta)^{3k}\log^2(\log\Delta))$ 時間で達成した。
• $k$ が固定のとき、実行時間は $n$ に関してほぼ線形となり、従来の高価なフローやマッチング計算に依存する手法に比べ顕著に改善された。
• 理論的分析により、LP緩和と丸めによって近似保証が維持されることを確認した。$r_{\text{max}}/r_{\text{min}}$ の比はスプレッド比と $\epsilon$-サンプリングによって制御された。