[論文レビュー] Bipartite Correlation Clustering -- Maximizing Agreements

Megasthenis Asteris, Anastasios Kyrillidis+2 more|arXiv (Cornell University)|Mar 9, 2016

Data Mining Algorithms and Applications参考文献 9被引用数 5

ひとこと要約

本稿では、+および-の辺を含む完全な二部グラフにおける一致数を最大化する k-二部相関クラスタリング (k-BCC) 問題に対する、新たな近似アルゴリズムを提示する。問題をクラスタ割り当て行列上の組み合わせ的制約付き双線形最大化として定式化することで、最適な一致数の (1−δ)-近似を、k および 1/δ に関して指数的で、入力サイズに関して線形な時間で達成する。このアルゴリズムにより、非制約 BCC 問題に対して効率的 PTAS が得られる。

ABSTRACT

In Bipartite Correlation Clustering (BCC) we are given a complete bipartite graph $G$ with `+' and `-' edges, and we seek a vertex clustering that maximizes the number of agreements: the number of all `+' edges within clusters plus all `-' edges cut across clusters. BCC is known to be NP-hard. We present a novel approximation algorithm for $k$-BCC, a variant of BCC with an upper bound $k$ on the number of clusters. Our algorithm outputs a $k$-clustering that provably achieves a number of agreements within a multiplicative ${(1-δ)}$-factor from the optimal, for any desired accuracy $δ$. It relies on solving a combinatorially constrained bilinear maximization on the bi-adjacency matrix of $G$. It runs in time exponential in $k$ and $δ^{-1}$, but linear in the size of the input. Further, we show that, in the (unconstrained) BCC setting, an ${(1-δ)}$-approximation can be achieved by $O(δ^{-1})$ clusters regardless of the size of the graph. In turn, our $k$-BCC algorithm implies an Efficient PTAS for the BCC objective of maximizing agreements.

研究の動機と目的

• 二部グラフにラベル付き辺を含む k-二部相関クラスタリング (k-BCC) 問題に対する、証明可能な精度を有する近似アルゴリズムの開発。この問題は、+ および - の辺を持つ完全な二部グラフにおける一致数を最大化することを目的とする。
• 非制約 BCC 問題において、任意の (1−δ)-近似が、グラフサイズに依存せず O(δ⁻¹) 個のクラスタのみを用いて達成可能であることを示すこと。
• 適切な設定下で k-BCC アルゴリズムを活用することで、非制約 BCC 問題に対して効率的多項式時間近似スキーム (EPTAS) を確立すること。
• 一般の LP/SDP ソルバーに依存するのではなく、二部グラフの構造的性質を活用することで、BCC 問題、特に MaxAgree 目的に関して、効率的かつ構造に配慮したアルゴリズムの欠如を是正すること。
• 合成データおよび実世界のデータセット（例：MovieLens）の両方において、一致品質および実行時間の両面で、既存手法を上回るスケーラブルで理論的根拠を持つ手法の提供。

提案手法

• k-BCC/MaxAgree 問題を制約付き双線形最大化として定式化：max_{X∈X, Y∈Y} Tr(XᵀBY)，ここで B は入力グラフのバイアドジェセンシー行列であり、X, Y は U および V のクラスタ割り当て行列である。
• 近似の品質を保証するランダムサンプリングフレームワークを用いて、組み合わせ的制約付き双線形最大化を近似的に解く。
• パラメータ δ を用いて近似精度を制御し、解が最適な一致数の少なくとも (1−δ) 倍に達することを保証する。
• 一般のソルバー（例：LP や SDP）に依存せず、スケーリングが著しく悪いことから、二部グラフの構造的性質を活用して回避する。
• 入力が疎でない場合（|E|=Ω(|U||V|）に適応することで、不完全だが密度の高い BCC インスタンスに対してもアルゴリズムを拡張する。
• 実用的なランタイムと近似品質のバランスを図るため、固定されたクラスタ数 k およびサンプリング制限を用いて k-BCC アルゴリズムを設定する。

実験結果

リサーチクエスチョン

• RQ1 k-二部相関クラスタリングの問題に対して、入力サイズに線形な時間計算量で、(1−δ)-近似が達成可能か？
• RQ2 非制約 BCC 問題において、グラフサイズに依存せず、O(δ⁻¹) 個のクラスタで十分に (1−δ)-近似が達成可能か？
• RQ3 k-BCC アルゴリズムを、非制約 BCC 問題に対して効率的 PTAS (EPTAS) を得るように設定可能か？
• RQ4 実世界のデータにおいて、提案された双線形最大化フレームワークは、既存のヒューリスティクスおよび SDP 基盤手法と比較して、一致品質および実行時間の両面で優れているか？
• RQ5 理論的にはより多くのサンプルが必要とされるが、k が小さい場合（例：k=10）でも、k が大きい場合（例：k=15）よりも高い性能を維持できるか？

主な発見

• 提案されたアルゴリズムは、k-BCC 問題において、最適な一致数の (1−δ)-近似を達成する。実行時間は k および 1/δ に関して指数的だが、入力サイズに関して線形である。
• 非制約 BCC 問題において、グラフサイズに依存せず、最大 O(δ⁻¹) 個のクラスタで任意の (1−δ)-近似が達成可能であり、EPTAS の理論的基盤を提供する。
• k-BCC アルゴリズムを k = O(δ⁻¹) に設定することで、非制約 BCC 問題に対して効率的 PTAS (EPTAS) を得られる。実行時間は n に関して多項式的であり、1/δ に関してのみ指数的である。
• MovieLens データセットにおいて、本アルゴリズム（BccBilinear）は PivotBiCluster よりも著しく高い一致スコアを達成した—10万件では 6.8K 対 4.6K、100万件では 694K 対 429K、1000万件では 6.86M 対 5.01M—かつ、10倍速い実行速度を達成した。
• k 値が小さい場合（例：k=10）の方が、k 値が大きい場合（例：k=15）よりも性能が優れている。著者らは、これは k が大きいほどより高い近似ランクと、より多くのサンプルが必要になるためだと説明している。
• 線形時間計算量と高価な凸プログラミングソルバーの回避により、大規模データに対して SDP 基盤手法を上回る性能を発揮する。