[論文レビュー] Flexible Models for Microclustering with Application to Entity Resolution

Giacomo Zanella, Brenda Betancourt+4 more|arXiv (Cornell University)|Oct 31, 2016

Data Quality and Management参考文献 15被引用数 12

ひとこと要約

本稿では、データサイズに比例してクラスターサイズが線形に増加するのではなく、部分線形に増加する『マイクロクラスタリング』性質を示す、柔軟なクラスタリングモデルの新クラスであるKPモデルを導入する。このモデルは、エンティティ解決に最適である。提案されたNBNBおよびNBDモデルは、実世界の4つのデータセットにおいて、従来の無限に交換可能なモデル（DP、PYP）を上回り、誤って否定される割合（false negative rate）と誤って発見される割合（false discovery rate）が低くなることが示された。

ABSTRACT

Most generative models for clustering implicitly assume that the number of data points in each cluster grows linearly with the total number of data points. Finite mixture models, Dirichlet process mixture models, and Pitman--Yor process mixture models make this assumption, as do all other infinitely exchangeable clustering models. However, for some applications, this assumption is inappropriate. For example, when performing entity resolution, the size of each cluster should be unrelated to the size of the data set, and each cluster should contain a negligible fraction of the total number of data points. These applications require models that yield clusters whose sizes grow sublinearly with the size of the data set. We address this requirement by defining the microclustering property and introducing a new class of models that can exhibit this property. We compare models within this class to two commonly used clustering models using four entity-resolution data sets.

研究の動機と目的

• データサイズに比例してクラスターサイズが線形に増加するという標準的クラスタリングモデルの制限を解決すること。
• エンティティ解決のような応用分野において、クラスターサイズが小さく部分線形に保たれるべきであるという要件を、マイクロクラスタリング性質として定義・形式化すること。
• 計算的実行可能性を維持しながらマイクロクラスタリング性質を示すことが可能な柔軟なモデルクラス（KPモデル）を開発すること。
• 実世界のデータセットを用いて、エンティティ解決タスクにおける標準的な無限に交換可能なモデル（DP、PYP）と比較して、新規モデルの性能を評価すること。
• マイクロクラスタリングモデルが、ノイズが多いまたはスパースな状況下でも、エンティティ解決における誤って否定される割合と誤って発見される割合を低減することを実証すること。

提案手法

• マイクロクラスタリング性質を定義：クラスターサイズの最大値がデータサイズに比例して部分線形に増加すること（すなわち、N → ∞ のとき、M_N / N → 0 が確率的に成り立つ）。
• 部分線形クラスターサイズ増加を可能にする、パーティションに関する柔軟な事前分布に基づく、新しいモデルクラス（KPモデル）を提案する。
• 2つの具体的な実装形態を導入：クラスターサイズに柔軟な事前分布を用いるNBNB（ネガティブバイノミアル-ディリクレ）およびNBD（ネガティブバイノミアル-離散）モデル。
• 標準的なDP/PYPの構成とは異なり、部分線形クラスターサイズ増加を誘導する確率測度を用いた、中国レストラン過程に類似した構成を採用する。
• MCMCまたは変分推論法を用いて後部確率推定を実装し、クラスタ割り当ておよびモデルパラメータを推定する。
• レコード間の類似度をモデル化し、潜在的なエンティティクラスタを推定することで、エンティティ解決フレームワークにモデルを統合する。

実験結果

リサーチクエスチョン

• RQ1 データサイズに比例してクラスターサイズが部分線形に増加するようなクラスタリングモデルを構築可能か？
• RQ2 マイクロクラスタリング性質を示すモデルは、DP や PYP のような標準的な無限に交換可能なモデルと比較して、エンティティ解決タスクでどのように性能を発揮するか？
• RQ3 マイクロクラスタリングは、誤って否定される割合、誤って発見される割合、期待F1スコアといったエンティティ解決の主要指標にどのような影響を与えるか？
• RQ4 NBNBおよびNBDモデルは、多様なデータセットにおいて真のエンティティ数（K）とリンク閾値（δ）の推定において、DP や PYP と比較してどのように異なるか？
• RQ5 クラスターサイズに柔軟な事前分布を導入することで、ノイズが多いまたはスパースなエンティティ解決環境におけるモデルのロバスト性が向上するか？

主な発見

• NBNBおよびNBDモデルは、DP や PYP とは異なり、部分線形にクラスターサイズが増加するマイクロクラスタリング性質を明確に示した。
• Italyデータセットでは、NBDモデルが誤って否定される割合 0.01（δ=0.02）および誤って発見される割合 0.09を達成し、DP や PYP モデルを上回った。
• Syria2000データセットでは、NBDモデルの誤って否定される割合は 0.67（δ=0.02）、誤って発見される割合は 0.28であり、DPモデルの 0.70 および 0.27 と比較して同等または優れた性能を示した。
• SyriaSizesデータセット（δ=0.1）では、NBDモデルが3,863.9個のエンティティ（真のK=4,075）を推定し、誤って否定される割合 0.75、誤って発見される割合 0.22を示した。F1スコアおよびFDR指標において、DP や PYP を上回った。
• Syria2000データセット（δ=0.1）において、NBDモデルは最小の事後期待δ（0.03）を示し、真のリンク閾値とより良好に一致していることを示した。
• 全データセットにおいて、NBNBおよびNBDモデルは、DP や PYP と比較して一貫して誤って否定される割合と誤って発見される割合が低く抑えられ、特にノイズの高い状況（δ=0.1）において、データ劣化に対するロバスト性が顕著に示された。