[論文レビュー] Siamese Graph Neural Networks for Data Integration

Evgeny Krivosheev, Mattia Atzeni+3 more|arXiv (Cornell University)|Jan 17, 2020

Topic Modeling参考文献 52被引用数 8

ひとこと要約

本稿では、構造的および非構造的データをグラフとしてモデル化することで、スケーラブルで文脈に配慮したエンティティマッチングを可能にする、Siamese Graph Convolutional Networks (S-GCNs) を提案する。グラフニューラルネットワークを活用して関連するエンティティ間で情報を伝搬させることで、ビジネスエンティティ連携タスクにおいて、ルールベースおよび非グラフベースのディープラーニング手法よりも優れた性能を達成する。

ABSTRACT

Data integration has been studied extensively for decades and approached from different angles. However, this domain still remains largely rule-driven and lacks universal automation. Recent development in machine learning and in particular deep learning has opened the way to more general and more efficient solutions to data integration problems. In this work, we propose a general approach to modeling and integrating entities from structured data, such as relational databases, as well as unstructured sources, such as free text from news articles. Our approach is designed to explicitly model and leverage relations between entities, thereby using all available information and preserving as much context as possible. This is achieved by combining siamese and graph neural networks to propagate information between connected entities and support high scalability. We evaluate our method on the task of integrating data about business entities, and we demonstrate that it outperforms standard rule-based systems, as well as other deep learning approaches that do not use graph-based representations.

研究の動機と目的

• 構造的および非構造的データを統合するタスクにおいて、ルールベースおよび非グラフベースのディープラーニング手法の限界を克服するため、グラフ構造の表現を活用すること。
• 知識グラフを用いて、構造的データベースおよび非構造的テキストソースの両方におけるエンティティ間の関係をモデル化すること。
• 文脈情報を保持しながらエンティティマッチングを実行する、スケーラブルでエンドツーエンドの学習フレームワークを構築すること。
• 最小限の監視情報からのグラフニューラルネットワークによる判別的ノード埋め込みの学習により、手動ラベル付けへの依存度を低減すること。
• 実世界のデータベースおよびニュース記事を含む大規模なビジネスエンティティ連携タスクにおいて、S-GCNs の有効性を評価すること。

提案手法

• 本手法は、構造的データ（例：会社の所有構造、子会社）および非構造的テキスト（例：ニュース記事）から知識グラフを構築し、エンティティとその関係をノードとエッジとして表現する。
• 同一エンティティペア間の距離を最小化し、関係のないペア間の距離を最大化するように、ノード埋め込み間の距離関数を学習するため、Siamese Graph Convolutional Networks (S-GCNs) を採用する。
• グラフニューラルネットワークは、接続されたノード間で情報を伝搬させ、構造的および属性ベースの関係を捉える文脈的表現学習を可能にする。
• ノード特徴量にはエンティティの属性および文脈的メタデータが含まれるが、グラフ構造はエンティティ間の関係的および階層的接続を符号化する。
• マッチングされたエンティティペア間の埋め込み空間における類似性と、一致しないペア間の不類似性を最適化するために、対照的損失（contrastive loss）を用いてモデルを訓練する。
• 合成エイリアス生成によるデータ拡張により、特に次数が低いノードの周辺情報が豊かになり、一般化性能が向上する。

実験結果

リサーチクエスチョン

• RQ1 構造的および非構造的データを統合するタスクにおいて、グラフ構造の表現はエンティティマッチングの性能向上に寄与するか？
• RQ2 シアンズネットワークとグラフニューラルネットワークを組み合わせることで、最小限のラベル付きデータから判別的エンティティ埋め込みを学習する効果はいかほどか？
• RQ3 グラフ構造および関係的文脈を保持することで、従来のルールベースまたは非グラフベースのディープラーニング手法と比較して、レコード連携の正確性がどの程度向上するか？
• RQ4 接続が疎であるか、属性情報が限られたエンティティに対しても、モデルの一般化性能はどの程度保たれるか？
• RQ5 合成エイリアスによるデータ拡張は、モデルの性能および頑健性にどのような影響を及ぼすか？

主な発見

• 提案された S-GCN 法は、ビジネスエンティティ連携タスクにおいて、標準的なルールベースシステムおよび非グラフベースのディープラーニング手法を上回る性能を発揮する。
• グラフベースのモデリングにより、関連するエンティティ間で効果的な情報伝搬が可能となり、より判別性の高いノード埋め込みが得られる。
• モデルは高いスケーラビリティと頑健性を備えており、特にグラフ内の関係的文脈および構造的情報を活用することで効果を発揮する。
• 合成エイリアスによるデータ拡張は、接続が少ないか次数が低いエンティティに対して顕著に性能向上をもたらす。
• 本手法は最小限のラベル付きデータを必要とし、グラフ構造に起因する有効なインダクティブバイアスのおかげで、ほぼゼロに近いラベルコストで優れた一般化性能を示す。
• データベースや外部ソースから得た知識グラフの利用により、手動の特徴工学を伴わず、自動的かつスケーラブルな表現学習が可能になる。