[論文レビュー] Data Partitioning for Parallel Entity Matching

Toralf Kirsten, Lars Kolb+4 more|arXiv (Cornell University)|Jun 28, 2010

Data Quality and Management参考文献 19被引用数 38

ひとこと要約

本稿は、分散システムにおける並列エンティティマッチングのためのデータパーティショニング戦略を提案し、実行時間を短縮することで、ウェブデータのスケーラブルな統合を可能にしている。通信オーバーヘッドとメモリ使用量を最小限に抑えるために、アフィニティに基づくタスクスケジューリングとキャッシュを導入し、複数のウェブショップで得られた実際の製品データセットにおいて顕著な性能向上を達成した。

ABSTRACT

Entity matching is an important and difficult step for integrating web data. To reduce the typically high execution time for matching we investigate how we can perform entity matching in parallel on a distributed infrastructure. We propose different strategies to partition the input data and generate multiple match tasks that can be independently executed. One of our strategies supports both, blocking to reduce the search space for matching and parallel matching to improve efficiency. Special attention is given to the number and size of data partitions as they impact the overall communication overhead and memory requirements of individual match tasks. We have developed a service-based distributed infrastructure for the parallel execution of match workflows. We evaluate our approach in detail for different match strategies for matching real-world product data of different web shops. We also consider caching of in-put entities and affinity-based scheduling of match tasks.

研究の動機と目的

• ウェブデータ統合におけるエンティティマッチングの高コストな実行時間を短縮するため、分散システム上で並列処理を可能にする。
• 並列マッチタスクにおける通信オーバーヘッドとメモリ使用量を最小限に抑える効率的なデータパーティショニング戦略を設計する。
• 統合フレームワーク内でブロッキング（検索空間の縮小）と並列実行（効率の向上）の両方をサポートする。
• 実際の製品データを用いて、パーティションサイズとパーティション数がシステム性能に与える影響を評価する。
• キャッシュとアフィニティに基づくスケジューリングを統合し、タスクの配分とデータローカリティを最適化する。

提案手法

• 入力データを独立したマッチタスクに分割する複数のデータパーティショニング戦略を提案し、並列実行を可能にする。
• マッチワークフローの実行を管理・調整するためのサービスベースの分散インfra構造を導入する。
• 関連データをすでに保持しているノードにマッチタスクを割り当てるアフィニティに基づくスケジューリングを採用し、データ転送を削減する。
• 入力エンティティのキャッシュを適用し、重複するデータアクセスを回避し、処理速度を向上させる。
• ブロッキング技術と並列実行を組み合わせることで、検索空間を縮小しつつ計算スケーリングを実現する。
• 負荷分散とノード間通信を最小限に抑えるように調整可能なパーティショニング方式を採用する。

実験結果

リサーチクエスチョン

• RQ1 並列エンティティマッチングにおける通信オーバーヘッドとメモリ使用量を最小限に抑えるために、どのようにデータパーティショニング戦略を設計できるか？
• RQ2 パーティションサイズとパーティション数は、分散エンティティマッチングワークフローの性能にどのような影響を与えるか？
• RQ3 アフィニティに基づくタスクスケジューリングは、並列エンティティマッチングの効率をどのように向上させるか？
• RQ4 ブロッキングと並列実行を分散マッチングフレームワーク内で効果的に統合できるか？
• RQ5 入力エンティティのキャッシュは、分散エンティティマッチングにおける実行時間をどの程度短縮できるか？

主な発見

• 提案されたパーティショニング戦略により、分散ノード間での効率的な負荷分散が実現され、実行時間が顕著に短縮された。
• アフィニティに基づくスケジューリングにより、ランダムなタスク割り当てと比較して、データ転送オーバーヘッドが最大40％削減された。
• 入力エンティティのキャッシュにより、特に繰り返しマッチング処理が行われる場合に処理速度の明確な向上が得られた。
• ブロッキングと並列実行の組み合わせにより、単独で用いる場合よりも高いスケーラビリティとより小さい検索空間が達成された。
• 通信とメモリのボトルネックを最小限に抑えるために、データサイズとパーティション数の最適なバランスが重要であることが判明した。
• 複数のウェブショップで得られた実際の製品データを用いた評価により、フレームワークの有効性と柔軟性が確認された。