[論文レビュー] Exact algorithms and lower bounds for stable instances of euclidean k-means

Zachary Friggstad, Kamyar Khodamoradi+1 more|arXiv (Cornell University)|Jan 6, 2019

Data Management and Algorithms被引用数 6

ひとこと要約

本稿では、固定次元のユークリッド空間およびダブリング距離において、(1+ϵ)-安定なk-meansクラスタリングの多項式時間アルゴリズムを、マルチスワップ局所探索アプローチを用いて提示する。このようなインスタンスは多項式時間で正確に解けることが証明されている一方で、妥当なPCP仮説のもとでは、高次元空間における(1+ϵ₀)-安定k-meansにはPTASが存在しないことが示されている（NP=RPを除く）。

ABSTRACT

We investigate the complexity of solving stable or perturbation-resilient instances of k-means and k-median clustering in fixed dimension Euclidean metrics (or more generally doubling metrics). The notion of stable or perturbation resilient instances was introduced by Bilu and Linial [2010] and Awasthi, Blum, and Sheffet [2012]. In our context, we say a k-means instance is α-stable if there is a unique optimum solution which remains unchanged if distances are (non-uniformly) stretched by a factor of at most α. Stable clustering instances have been studied to explain why heuristics such as Lloyd's algorithm perform well in practice. In this work we show that for any fixed ϵ > 0, (1 + ϵ)-stable instances of k-means in doubling metrics, which include fixed-dimensional Euclidean metrics, can be solved in polynomial time. More precisely, we show a natural multi-swap local-search algorithm in fact finds the optimum solution for (1 + ϵ)-stable instances of k-means and k-median in a polynomial number of iterations.We complement this result by showing that under a plausible PCP hypothesis this is essentially tight: that when the dimension d is part of the input, there is a fixed ϵ0 > 0 such there is not even a PTAS for (1 + ϵ0)-stable k-means in Rd unless NP=RP. To do this, we consider a robust property of CSPs; call an instance stable if there is a unique optimum solution x* and for any other solution x', the number of unsatisfied clauses is proportional to the Hamming distance between x* and x'. Dinur, Goldreich, and Gur have already shown stable QSAT is hard to approximation for some constant Q [16], our hypothesis is simply that stable QSAT with bounded variable occurrence is also hard (there is in fact work in progress to prove this hypothesis). Given this hypothesis, we consider stability-preserving reductions to prove our hardness for stable k-means. Such reductions seem to be more fragile and intricate than standard L-reductions and may be of further use to demonstrate other stable optimization problems are hard to solve.

研究の動機と目的

• 固定次元のユークリッド空間およびダブリング距離におけるk-meansおよびk-medianクラスタリングの安定インスタンスの計算複雑性を調査すること。
• (1+ϵ)-安定k-meansインスタンスが多項式時間で解けるかどうかを特定すること。
• 次元dが入力に含まれる場合の安定k-meansのタイトな難易度境界を確立すること。
• 安定最適化問題における近似難易度を示すために、安定性を保つ還元フレームワークを構築すること。

提案手法

• マルチスワップ局所探索アルゴリズムを提案し、(1+ϵ)-安定k-meansおよびk-medianインスタンスを多項式時間で最適解に到達可能であることを示す。
• α-安定性の概念を用い、距離が非一様にスケーリングされても最適クラスタリングが変化しないことを保証する。
• 安定性を保つ還元を、安定化された充足可能性問題（QSAT）からk-meansへ適用し、変数の出現回数が制限された安定QSATの難易度に関する仮説を活用する。
• 任意の固定されたϵ > 0 に対して、ダブリング距離における(1+ϵ)-安定k-meansは多項式時間で解けることを確立する。
• PCPに基づく仮説を用いて、高次元ユークリッド空間における(1+ϵ₀)-安定k-meansにはPTASが存在しないことを示し、NP=RPを除く。
• 安定性を保つ新しいタイプの還元を導入し、他の安定最適化問題に対しても応用可能である可能性を示す。

実験結果

リサーチクエスチョン

• RQ1 固定次元のユークリッド空間における(1+ϵ)-安定k-meansインスタンスは多項式時間で解けるか？
• RQ2 マルチスワップ局所探索アルゴリズムは、(1+ϵ)-安定k-meansインスタンスに対して最適解を保証的に見つけられるか？
• RQ3 次元dが入力に含まれる場合の安定k-meansの計算複雑性は何か？
• RQ4 安定性を保つ還元は、安定最適化問題における近似難易度の証明に利用可能か？
• RQ5 高次元空間における(1+ϵ₀)-安定k-meansにPTASが存在しないことは、妥当な複雑性理論的仮定のもとで除外されるか？

主な発見

• 任意の固定されたϵ > 0 に対して、ダブリング距離（固定次元のユークリッド空間を含む）における(1+ϵ)-安定k-meansインスタンスは、マルチスワップ局所探索を用いて多項式時間で解ける。
• マルチスワップ局所探索アルゴリズムは、(1+ϵ)-安定k-meansおよびk-medianインスタンスに対して、一意の最適解を多項式時間で見つけられる。
• 妥当なPCP仮説のもとでは、dが入力に含まれる場合のRdにおける(1+ϵ₀)-安定k-meansにはPTASが存在しない（NP=RPを除く）。
• 難易度結果は、変数の出現回数が制限された安定QSATからk-meansへの安定性を保つ還元によって確立された。
• 提案された還元フレームワークは、標準的なL還元よりも複雑であり、他の安定最適化問題における難易度証明にも再利用可能である可能性を示している。
• 本稿は、固定次元では(1+ϵ)-安定性が多項式時間解法の十分条件であるが、高次元ではそうではないという証拠を提供している。