[論文レビュー] Almost Asymptotically Optimal Active Clustering Through Pairwise Observations

Rachel S. Y. Teo, P. N. Karthik+2 more|arXiv (Cornell University)|Feb 5, 2026

Advanced Clustering Algorithms Research被引用数 0

ひとこと要約

要約: 本論文はノイズのあるペアワイズクエリを用いた能動的クラスタリングのインスタンス依存の下界を導出し、漸近的に最適なアルゴリズムと実用的なアルゴリズム（A3CNP）を提案する。サンプル複雑性はほぼ最適で、デルタ正確停止を達成する。

ABSTRACT

We propose a new analysis framework for clustering $M$ items into an unknown number of $K$ distinct groups using noisy and actively collected responses. At each time step, an agent is allowed to query pairs of items and observe bandit binary feedback. If the pair of items belongs to the same (resp.\ different) cluster, the observed feedback is $1$ with probability $p>1/2$ (resp.\ $q<1/2$). Leveraging the ubiquitous change-of-measure technique, we establish a fundamental lower bound on the expected number of queries needed to achieve a desired confidence in the clustering accuracy, formulated as a sup-inf optimization problem. Building on this theoretical foundation, we design an asymptotically optimal algorithm in which the stopping criterion involves an empirical version of the inner infimum -- the Generalized Likelihood Ratio (GLR) statistic -- being compared to a threshold. We develop a computationally feasible variant of the GLR statistic and show that its performance gap to the lower bound can be accurately empirically estimated and remains within a constant multiple of the lower bound.

研究の動機と目的

• ノイズ付きのペアワイヤ oracle を用いたクラスタリングをバンドット学習風の能動学習問題として定式化する。
• 信頼性のあるクラスタリングに必要な問合せ回数のインスタンス依存の下界を導出する。
• 情報理論的原理に基づく漸近的に最適なサンプリングと停止のフレームワークを設計する。
• ほぼ最適な性能を保つ計算的に実現可能な変種を導入する。
• 実証可能なデルタ正確停止と定量化されたサブ最適性境界を持つ実用的なアルゴリズム（A3CNP）を提供する。

提案手法

• 各アイテムのペアを同一クラスタならばp、異なるクラスタならばqのベルヌーイアームとしてモデル化し、p>1/2>qかつ未知とする。
• 変化測度とKL発散を用いたsup-inf 下界 D*(C) をサンプル複雑性について推定する。
• Alt(C) 探索をより小さな min(C) 集合に縮約し、D*(C) の評価を扱いやすくする。
• C に投影された推定 Ct に基づくガイド付きのサンプリング規則を D-Tracking スタイルのアプローチで提案する。
• GLR ベースの停止規則 Z(t) を閾値 beta(t, delta) と比較して delta-正確性を保証する。
• 計算的に実現可能な代理の hatZ(t) と、delta-正確性を保持する実用的停止規則を提供する。
• サンプリング規則と実現可能な停止規則および射影ステップを組み合わせる A3CNP を提示する。

Figure 1: The asymptotic ( $\delta\to 0$ ) sample complexity of $\mathrm{A}^{3}\mathrm{CNP}$ , with varying $\epsilon$ (first argument) and $\sigma$ (second argument) values, relative to the active clustering algorithm of [ 10 ] . Also included in the plot are the theoretical lower ( 3 ) and upper b

実験結果

リサーチクエスチョン

• RQ1 クラスタリングを高い信頼度で回復するために必要なペアワイズ問合せの期待回数のインスタンス依存下界は何か。
• RQ2 ノイズのある観測を伴う能動的クラスタリングで、ほぼ最適（または漸近的に最適）なサンプル複雑性を達成するためのサンプリングと停止規則はどう設計するか。
• RQ3 GLR 停止規則を計算的に実用的な変種で近似しつつ、delta-正確性を保持できるか。
• RQ4 未知の p と q に対処しつつ、クラスタリング精度の証明可能な保証を維持するにはどうするか。
• RQ5 実用的近似によるサブ最適性のギャップは、情報理論的下界と比べてどの程度か。

主な発見

• ペアワイズKL発散のsup-inf 最適化を介してサンプル複雑性のインスタンス依存の下界を確立した。
• empirical GLR 統計量に基づく停止を備えた漸近的に最適なアルゴリズムを導出し、実現可能な変種でギャップを制御。
• 射影ステップを feasible なインスタンス集合 C に対して適用することで、停止とサンプリング規則を明確に定義。
• delta-正確性を維持しつつ実用的な効率を提供する計算的に実現可能な代理停止統計量を提案。
• A3CNP アルゴリズムは D-Tracking サンプリングと feasible 停止規則および射影を組み合わせ、証明可能な境界内でほぼ最適な性能を達成。