[論文レビュー] PRGC: Potential Relation and Global Correspondence Based Joint Relational Triple Extraction

Hengyi Zheng, Rui Wen+8 more|arXiv (Cornell University)|Jun 18, 2021

Topic Modeling参考文献 31被引用数 12

ひとこと要約

PRGCは、関係予測、関係固有のシーケンスタギング、およびグローバルな対応に基づく主語・目的語のアラインメントの3つのサブタスクに分解する、革新的な共同関係的三項抽出フレームワークを提案する。関係予測を関連する関係に限定し、グローバル対応行列を用いることで、重複する三項の状況においても、SOTAモデル（TPLinker や CasRel など）を上回るF1スコアと推論速度を達成し、より高い効率性と頑健性を実現した。

ABSTRACT

Joint extraction of entities and relations from unstructured texts is a crucial task in information extraction. Recent methods achieve considerable performance but still suffer from some inherent limitations, such as redundancy of relation prediction, poor generalization of span-based extraction and inefficiency. In this paper, we decompose this task into three subtasks, Relation Judgement, Entity Extraction and Subject-object Alignment from a novel perspective and then propose a joint relational triple extraction framework based on Potential Relation and Global Correspondence (PRGC). Specifically, we design a component to predict potential relations, which constrains the following entity extraction to the predicted relation subset rather than all relations; then a relation-specific sequence tagging component is applied to handle the overlapping problem between subjects and objects; finally, a global correspondence component is designed to align the subject and object into a triple with low-complexity. Extensive experiments show that PRGC achieves state-of-the-art performance on public benchmarks with higher efficiency and delivers consistent performance gain on complex scenarios of overlapping triples.

研究の動機と目的

• 既存の共同関係的三項抽出手法の限界、すなわち余分な関係予測、スパンベースのエンティティ抽出の一般化能力の低さ、および非効率な主語・目的語のアラインメントを解消すること。
• タスクを3つのサブタスク（関係判断、エンティティ抽出、主語・目的語のアラインメント）に分解することで、モジュラリティとパフォーマンスを向上させること。
• 重複するエンティティや関係を含む複雑な状況において、モデルの効率性と頑健性を向上させること。
• すべての可能な関係を予測するのではなく、潜在的な関係のみを予測することで、計算複雑度を低減すること。
• 露出バイアスやヒューリスティックな制約を回避するため、関係に依存しないグローバル対応行列を用いて、アラインメントの正確性を向上させること。

提案手法

• 各文に対して関連する関係のサブセットを特定する「潜在的関係予測」コンponentを導入し、冗長性と計算コストを低減する。
• 各予測された関係に対して、主語と目的語を抽出する「関係固有のシーケンスタギング」を採用し、並列処理を可能にするとともに、重複するスパンの処理を改善する。
• すべての主語・目的語ペア間の対応スコアを関係に依存せずに計算する「グローバル対応行列」を設計し、効率的かつ正確なアラインメントを実現する。
• 段階的推論パイプラインを採用：まず潜在的関係を予測し、次に各関係ごとにエンティティを抽出し、最後にグローバル対応行列を用いてペアをプルーニングする。
• 露出バイアスを回避し、バッチ処理をサポートする単一段階でエンドツーエンドに設計されたアーキテクチャを活用し、推論速度とスケーラビリティを向上させる。
• スパンベースの分類ではなく、関係ごとのシーケンスタギング方式を採用することで、複雑なエンティティパターンに対する一般化能力と頑健性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 共同関係的三項抽出フレームワークは、関係予測の冗長性を低減しつつ、パフォーマンスを維持または向上させることができるか？
• RQ2 関係固有のシーケンスタギングは、スパンベースの手法と比較して、一般化能力や重複するエンティティの処理において優れているか？
• RQ3 関係に依存しないグローバル対応行列は、ヒューリスティックなアラインメント戦略を上回る性能を発揮できるか？
• RQ4 関係数が増加しても、提案フレームワークは高い効率性と正確性を維持できるか？
• RQ5 単一エンティティ重複（SEO）、エンティティペア重複（EPO）、主語・目的語重複（SOO）といった複雑な重複三項パターンにおいて、モデルはどのように性能を発揮するか？

主な発見

• PRGCは公開ベンチマークでSOTAのF1スコアを達成し、TPLinkerを1.1%上回り、FLOPsを200倍、複雑度を1桁低減した。
• 推論速度はTPLinkerの3倍、CasRelの2倍速く、関係セットのサイズが増加しても性能に劣化がない。
• 潜在的関係予測コンponentを削除すると、WebNLG* において精度低下が10%増加（F1スコアは94.0から83.9に低下）し、冗長予測の低減に果たす役割が裏付けられた。
• 関係固有のシーケンスタギングコンponentを導入することで、WebNLG* においてスパンベースタギングと比較してF1スコアが17.4ポイント向上し、一般化能力と頑健性の優位性が示された。
• グローバル対応コンponentを削除すると、WebNLG* においてF1スコアが23.6ポイント上昇し、不適切な主語・目的語ペアの削減効果が確認された。
• NYT* データセットにおいて、CasRelに比べて推論時間で5倍の高速化を達成し、F1スコアも3%向上させ、高い効率性と正確性の両立を実証した。