[論文レビュー] Same-Cluster Querying for Overlapping Clusters

Wasim Huleihel, Arya Mazumdar+2 more|arXiv (Cornell University)|Oct 28, 2019

Data Management and Algorithms被引用数 6

ひとこと要約

本稿では、同一クラスタクエリを用いた効率的なアルゴリズムを提案し、各クエリが2つの要素が同じクラスタに属するかどうかを特定する。本稿は、最悪ケースと統計的モデルの両方において、順序的に最適なクエリ複雑度の境界を提供し、一意性の保証とノイズへのロバストネスを示しており、合成データおよび実世界のデータにおいて実用的な有効性を実証している。

ABSTRACT

Overlapping clusters are common in models of many practical data-segmentation applications. Suppose we are given $n$ elements to be clustered into $k$ possibly overlapping clusters, and an oracle that can interactively answer queries of the form "do elements $u$ and $v$ belong to the same cluster?" The goal is to recover the clusters with minimum number of such queries. This problem has been of recent interest for the case of disjoint clusters. In this paper, we look at the more practical scenario of overlapping clusters, and provide upper bounds (with algorithms) on the sufficient number of queries. We provide algorithmic results under both arbitrary (worst-case) and statistical modeling assumptions. Our algorithms are parameter free, efficient, and work in the presence of random noise. We also derive information-theoretic lower bounds on the number of queries needed, proving that our algorithms are order optimal. Finally, we test our algorithms over both synthetic and real-world data, showing their practicality and effectiveness.

研究の動機と目的

• n 個の要素を k 個の重複クラスタに分割する課題に、最小限の適応的 same-cluster クエリを用いて対処する。
• 最悪ケースと統計的仮定の下で、重複クラスタ構造を回復するためのクエリ複雑度に関する理論的保証を提供する。
• 実用的展開において、パラメータフリーでノイズにロバストなアルゴリズムを保証する。
• 情報理論的下界を確立し、提案されたアルゴリズムが順序的に最適であることを証明する。
• 合成および実世界のデータセットを用いた実験により、実用的な有効性を実証する。

提案手法

• 2つの要素が同じクラスタに属するかどうかを返すバイナリ応答行列を返すオラクルを使用する。
• 真のクラスタリングの回復を保証しながら、合計クエリ数を最小限に抑える適応的クエリ戦略を設計する。
• A が n×k のクラスタインジケータ行列であるとき、類似度行列 AAT を用いてクラスタメンバーシップを推定する。
• サンプリングに基づくアプローチを導入：要素のサブセット S をランダムに選択し、S 内のすべてのペアに対してクエリを実行して局所的なクラスタ構造を回復する。
• S の外側の要素については、S 内のすべての要素とクエリを実行し、肯定的応答に基づいてクラスタメンバーシップを特定する。
• 各クラスタが他のクラスタと共有しない固有の要素集合を持つ場合（すなわち、Ni \ ∪j≠i Nj ≠ ∅）、クラスタリングの一意性を証明する。

実験結果

リサーチクエスチョン

• RQ1 重複クラスタを回復するために必要な最小の適応的 same-cluster クエリ数は何か？
• RQ2 真のクラスタリングがクエリ応答から一意に回復可能となる条件は何か？
• RQ3 ノイズにロバストでありながら、パラメータチューニングを必要とせず、効率的なアルゴリズムをどのように設計できるか？
• RQ4 重複クラスタリングのクエリ複雑度における情報理論的下界は何か？
• RQ5 提案されたアルゴリズムは、最悪ケースと統計的モデルの両方において、順序的に最適なクエリ複雑度を達成できるか？

主な発見

• 提案されたアルゴリズムは、情報理論的下界に対して対数要因を除き順序的に最適なクエリ複雑度を達成する。
• 各クラスタが固有の非重複コアを持つ条件（Ni \ ∪j≠i Nj ≠ ∅）の下で、真のクラスタリングはクエリ応答から一意に回復可能である。
• サンプリングベースの戦略により、|S| = (log n + log k)/α のサンプリングサイズで、高確率でクラスタ構造を回復できる。
• アルゴリズムはノイズにロバストであり、パラメータのチューニングを必要としない。
• 合成および実世界のデータに対する実験的評価により、提案手法の実用性と有効性が確認された。
• 理論的分析から、1つのクラスタが別のクラスタの部分集合である場合（Np ⊂ Nq）、真のクラスタリングは回復不可能であることが示され、同定可能性の必要条件が特定された。