[論文レビュー] Relation of the Relations: A New Paradigm of the Relation Extraction Problem

Zhijing Jin, Yongyi Yang+2 more|arXiv (Cornell University)|Jun 5, 2020

Topic Modeling参考文献 32被引用数 12

ひとこと要約

本稿では、テキスト内のすべての関係を統合的にモデル化する新しい関係抽出のパラダイムを提案する。この手法は、グラフニューラルネットワーク（GNN）と行列トランスフォーマーを用いて『関係の関係』（RoR）現象を捉える。ACE05ではSOTAモデルを+1.12%、SemEval 2018 Task 7.2では+2.55%上回り、マルチ関係一般化および条件付き確率学習において顕著な向上を示した。

ABSTRACT

In natural language, often multiple entities appear in the same text. However, most previous works in Relation Extraction (RE) limit the scope to identifying the relation between two entities at a time. Such an approach induces a quadratic computation time, and also overlooks the interdependency between multiple relations, namely the relation of relations (RoR). Due to the significance of RoR in existing datasets, we propose a new paradigm of RE that considers as a whole the predictions of all relations in the same context. Accordingly, we develop a data-driven approach that does not require hand-crafted rules but learns by itself the RoR, using Graph Neural Networks and a relation matrix transformer. Experiments show that our model outperforms the state-of-the-art approaches by +1.12\% on the ACE05 dataset and +2.55\% on SemEval 2018 Task 7.2, which is a substantial improvement on the two competitive benchmarks.

研究の動機と目的

• 従来の関係抽出手法が個々のエンティティペアを独立して扱うための非効率性と相互依存関係の損失を是正すること。
• 単一のテキスト内で複数の関係が互いに影響し合うという『関係の関係』（RoR）現象の特定と活用すること。
• ルールに依存しないデータ駆動型の手法を構築し、統一されたフレームワーク内で対照的およびマルチ関係的依存関係を捉えること。
• 従来のモデルが苦手とする、3つ以上の関係に参加するエンティティを含む複雑なマルチ関係テキストにおける性能向上を図ること。

提案手法

• モデルは関係抽出を行列予測タスクとして定式化し、テキスト内のすべてのエンティティペアを関係行列 R ∈ ℝ^{M×M} として表現する。
• 各関係をノードとして扱うことで、グラフニューラルネットワーク（GNN）を用いて関係間の対照的依存関係をモデル化する。
• 行列トランスフォーマーを適用し、関係の数や共起構造といった、関係間の高次相関や数値的パターンを捉える。
• モデルは一度の順伝播ですべての関係を同時に予測し、ペアごとの独立分類を経由せずに、相互依存関係をエンドツーエンドで学習可能である。
• フレームワークは手動で作成したルールやヒューリスティクスに依存せず、データから直接RoRパターンを学習する。
• アーキテクチャは標準ベンチマーク上でエンドツーエンドに訓練され、アテンションメカニズムにより関係的依存関係の動的重み付けが可能である。

実験結果

リサーチクエスチョン

• RQ1 テキスト内のすべての関係を統合的にモデル化することで、個別ペア分類と比較して関係抽出の性能がどのように向上するか？
• RQ2 同じ文脈内で他の関係が観測された条件下での関係の条件付き確率分布を、モデルがどの程度正しく学習できるか？
• RQ3 GNNベースのアプローチは、マルチ関係設定において対照的関係的依存関係を効果的に捉えることができるか？
• RQ4 行列トランスフォーマー部は、局所的なペアを越えてグローバルな関係的パターンをどのように向上させるか？
• RQ5 この新しいパラダイムは、関係的複雑性の高い困難なサブセットにおいても測定可能な性能向上をもたらすか？

主な発見

• 提案モデルはACE05の全テストセットで63.55%のF1スコアを達成し、報告されたSOTAの64.26%に非常に近い結果を示した。
• 3つ以上の関係に参加するエンティティを含むより困難なサブセットでは、56.63%のF1スコアを達成し、OnePassを3.81ポイント上回った。
• ゴールの条件付き確率分布とのJensen-Shannon（JS）ダイバージェンスを、OnePassと比較して60%削減し、関係的依存関係の学習が優れていることを示した。
• ACE05ではSOTA性能を+1.12%、SemEval 2018 Task 7.2では+2.55%向上させ、競争力のあるベンチマークで顕著な向上を示した。
• アブレーションスタディにより、GNNおよび行列トランスフォーマー部の両方が、特に複雑な関係的文脈において顕著な貢献をしていることが確認された。
• モデルは高複雑度の例への一般化性能が優れており、RoRモデリングが複数の関係が同時に発生する状況で特に有益であることが示された。