[論文レビュー] DeepER -- Deep Entity Resolution

Muhammad Ebraheem, Saravanan Thirumuruganathan+3 more|arXiv (Cornell University)|Oct 2, 2017

Data Quality and Management参考文献 50被引用数 56

ひとこと要約

DeepER は、エンティティ解決のためのタプルの分散表現（DRs）を導入し、語彙埋め込みと LSTM ベースの組成性を用いてラベル付きデータを削減し、効率のために LSH ベースのブロッキングを用いる。ベンチマークと多言語データで競争力のある精度を示す。

ABSTRACT

Entity resolution (ER) is a key data integration problem. Despite the efforts in 70+ years in all aspects of ER, there is still a high demand for democratizing ER - humans are heavily involved in labeling data, performing feature engineering, tuning parameters, and defining blocking functions. With the recent advances in deep learning, in particular distributed representation of words (a.k.a. word embeddings), we present a novel ER system, called DeepER, that achieves good accuracy, high efficiency, as well as ease-of-use (i.e., much less human efforts). For accuracy, we use sophisticated composition methods, namely uni- and bi-directional recurrent neural networks (RNNs) with long short term memory (LSTM) hidden units, to convert each tuple to a distributed representation (i.e., a vector), which can in turn be used to effectively capture similarities between tuples. We consider both the case where pre-trained word embeddings are available as well the case where they are not; we present ways to learn and tune the distributed representations. For efficiency, we propose a locality sensitive hashing (LSH) based blocking approach that uses distributed representations of tuples; it takes all attributes of a tuple into consideration and produces much smaller blocks, compared with traditional methods that consider only a few attributes. For ease-of-use, DeepER requires much less human labeled data and does not need feature engineering, compared with traditional machine learning based approaches which require handcrafted features, and similarity functions along with their associated thresholds. We evaluate our algorithms on multiple datasets (including benchmarks, biomedical data, as well as multi-lingual data) and the extensive experimental results show that DeepER outperforms existing solutions.

研究の動機と目的

• エンティティ解決における人手によるラベリングと特徴量設計を削減しつつ、高い精度を維持する。
• 広範な特徴量設計を必要とせず、タプル間の統語的および意味的な類似性の両方を表現する。
• すべての属性に跨る比較を効率的に制限する、全体的な DR ベースのブロッキング手法を提供する。

提案手法

• タプルの DR を、単語埋め込みを平均化する方法、または LSTM ユニットを用いた単方向/双方向 LSTM での合成により計算する。
• 特定の ER タスクの精度向上のため、DR を調整するエンドツーエンドモデルを訓練する。
• タプル DR 間の類似性ベクトルをマッチ/ミスマッチの決定の入力として分類器に使用する。
• タプルの DR を用いてすべての属性を考慮したブロックを形成する LSH ベースのブロッキングを導入する。
• 語彙外の語や部分的/最小限の辞書カバレッジの状況をどう扱うかを説明する。
• ドメインリソースへの微調整またはリトフィットを通じて語彙埋め込みを調整する方法を検討する。

実験結果

リサーチクエスチョン

• RQ1 タプルの DR が、重い特徴量設計を必要とせずに、効果的な ER のための統語的および意味的類似性の両方を捉えることができるか？
• RQ2 DR と LSH を用いて、巨大なデータセットに拡張可能な ER ブロッキングをどのように効率的に実現できるか？
• RQ3 さまざまなデータセットで、平均化と LSTM ベースの組成のどちらの戦略がより良い ER 性能を示すか？
• RQ4 語彙埋め込みを、ドメイン特化の ER タスク（完全/部分的/最小限のカバレッジ）に適応または調整するにはどうすればよいか？

主な発見

• DR ベースのタプル表現は、広範な手動特徴設計を必要とせずに ER の効果的な類似度測定を可能にする。
• LSTM ベースの組成 DR は、語順や属性間相互作用が重要なデータセットで利点を提供できる。
• LSH ベースのブロック金 DR 上は、すべての属性に跨る意味的類似性を活用しつつ比較を大幅に削減する。
• 監督学習による DR のエンドツーエンド調整は、タスク固有のデータで ER の精度を向上させる。
• 語彙リトフィットとドメイン特化の埋め込み戦略は、完全/部分的/最小限のカバレッジのシナリオに対応するのに役立つ。
• 実験は、ベンチマーク、バイオメディカル、および多言語データセットで DeepER が最先端ソリューションを上回ることを示している。