[論文レビュー] SIRE: Separate Intra- and Inter-sentential Reasoning for Document-level Relation Extraction

Shuang Zeng, Yuting Wu+1 more|arXiv (Cornell University)|Jun 3, 2021

Topic Modeling参考文献 27被引用数 8

ひとこと要約

SIREは、文内関係と文間関係を別々の符号化戦略を用いて別々にモデル化する、文書レベルの関係抽出のための新規フレームワークを提案する。自己注意に基づく論理的推論モジュールを導入し、すべての可能な推論チェーンを捉えることで、説明可能性と論理的推論タスクに対する頑健性を向上させ、公開ベンチマークで最先端の性能を達成した。

ABSTRACT

Document-level relation extraction has attracted much attention in recent years. It is usually formulated as a classification problem that predicts relations for all entity pairs in the document. However, previous works indiscriminately represent intra- and inter-sentential relations in the same way, confounding the different patterns for predicting them. Besides, they create a document graph and use paths between entities on the graph as clues for logical reasoning. However, not all entity pairs can be connected with a path and have the correct logical reasoning paths in their graph. Thus many cases of logical reasoning cannot be covered. This paper proposes an effective architecture, SIRE, to represent intra- and inter-sentential relations in different ways. We design a new and straightforward form of logical reasoning module that can cover more logical reasoning chains. Experiments on the public datasets show SIRE outperforms the previous state-of-the-art methods. Further analysis shows that our predictions are reliable and explainable. Our code is available at https://github.com/DreamInvoker/SIRE.

研究の動機と目的

• 既存のモデルが、言語的パターンの違いにもかかわらず、文内および文間関係を同じ符号化戦略で扱うという制限を解消すること。
• パスベースのグラフ手法が、エンティティペアに有効なパスが存在しない場合に発生するカバー率のギャップを克服すること。
• 文書内で可能なすべての論理的推論チェーンをモデル化できる、より汎用的で説明可能な推論メカニズムを設計すること。
• 選択的証拠注釈と推論チェーンモデル化を通じて、文書レベルの関係抽出予測の信頼性と解釈可能性を向上させること。

提案手法

• SIREは、エンティティペアの共起するすべての文の表現を集約することで、文内関係を文単位のエンコーダーで表現する。
• 文間関係のためには、文書単位のエンコーダーとメンション単位のグラフを組み合わせ、文間の長距離依存関係と相互作用をモデル化する。
• 支援文を効果的に特定する支援文セレクターモジュールを導入し、事実の文脈への注目を強化することで、文間関係の注目を向上させる。
• すべての関係表現に対して自己注意を用いることで、推論チェーンをモデル化する新規の論理的推論モジュールを導入し、可能な論理的推論の完全カバレッジを実現する。
• 関係分類と推論を同時に最適化する設計となっており、キーワードや証拠の注目を強調する注目メカニズムを備えている。

実験結果

リサーチクエスチョン

• RQ1 文内および文間関係のモデル化を分離することで、文書レベルの関係抽出のパフォーマンスが向上するか？
• RQ2 すべての可能な推論チェーンを考慮する自己注意ベースの推論モジュールは、グラフ構造モデルのパスベース推論を上回るか？
• RQ3 支援証拠と推論チェーンを強調することで、モデルはより優れた説明可能性を達成できるか？
• RQ4 2ホップ論理的推論タスクにおいて、SIREは以前の最先端手法と比較してどのように性能を発揮するか？
• RQ5 論理的推論モジュールは、特に複雑な推論ケースにおいて、全体のパフォーマンスにどの程度寄与しているか？

主な発見

• SIREは、3つの公開文書レベル関係抽出データセットで最先端のパフォーマンスを達成し、以前のSOTA手法を上回った。
• DocRED開発セットでは、SIRE-GloVeがInfer-F1スコア42.72を達成し、以前の最良モデルを1.89ポイント上回った。
• 論理的推論モジュールを削除すると、Infer-F1が42.72から39.18に著しく低下し、そのモジュールが推論タスクにおいて極めて重要な役割を果たしていることが確認された。
• 事例研究では、SIREが正しく支援証拠文を特定し、正しい論理的推論チェーン（例：São Paulo → Brazil → South America）に注目していることが示された。
• 注目メカニズムにより、関係のある語句や証拠文が人間の直感と整合する形で強調されるため、モデルの予測は説明可能である。