[論文レビュー] Joint Extraction of Entities and Relations Based on a Novel Tagging Scheme

Suncong Zheng, Feng Wang+4 more|arXiv (Cornell University)|Jun 7, 2017

Topic Modeling参考文献 27被引用数 106

ひとこと要約

この論文は、ジョイントエンティティ-リレーション抽出をシーケンスタグ付けタスクに変換する tagging scheme を導入し、biased decoding objective を用いたエンドツーエンドの Bi-LSTM/LSTM モデルを NYT データの distant supervision で評価して、最新の結果を達成した。

ABSTRACT

Joint extraction of entities and relations is an important task in information extraction. To tackle this problem, we firstly propose a novel tagging scheme that can convert the joint extraction task to a tagging problem. Then, based on our tagging scheme, we study different end-to-end models to extract entities and their relations directly, without identifying entities and relations separately. We conduct experiments on a public dataset produced by distant supervision method and the experimental results show that the tagging based methods are better than most of the existing pipelined and joint learning methods. What's more, the end-to-end model proposed in this paper, achieves the best results on the public dataset.

研究の動機と目的

• エンティティとリレーションの共同抽出を動機づけつつ、特徴量エンジニアリングを削減するためタギングへ変換する。
• エンティティ境界とリレーションの役割をタグ内にエンコードする新規 tagging scheme を提案する。
• エンドツーエンドの Bi-LSTM ベースモデルを biased decoding objective で開発し、エンティティ対とリレーションを共同抽出する。

提案手法

• B/I/E/S-Relation-Role および O の形式のタグを用いる tagging scheme を定義する。
• predefined relation set と roles を用いて triplet 抽出を sequence taggingへ変換する。
• biased loss を備えた Bi-LSTM エンコーダ + LSTM デコーダのエンドツーエンドモデルを実装し、リレーションタグを強調する。
• NYT データセットを distant-supervised で訓練し、 triplets の精度（precision）、再現率（recall）、F1で評価する。
• pipelined、joint-learning、および他のエンドツーエンド tagging ベースラインと比較する。
• bias パラメータ alpha は precision と recall のバランスを取るよう調整される。

実験結果

リサーチクエスチョン

• RQ1 tagging ベースのアプローチはジョイントエンティティとリレーション抽出をシーケンス tagging 問題へ効果的に変換できるか？
• RQ2 biased decoding objective を持つエンドツーエンド Bi-LSTM モデルは NYT-distant-supervision データで既存手法よりトリプレット抽出を改善するか？
• RQ3 提案された tagging scheme はリレーション内の2つのエンティティの結びつきをどう扱い、バイアスが性能に与える影響は？

主な発見

• tagging ベースのエンドツーエンドモデルは NYT データセットでほとんどの pipelined および joint-learning ベースラインを上回る。
• LSTM-LSTM-Bias は全ての検証方法の中で最高の F1 スコアを達成し、CoType を約3ポイント上回る。
• joint_extraction モデルは一般に pipelined アプローチを上回り、 tagging ベース手法は多くの joint 手法と競合・優位。
• biased loss の使用により関連エンティティ間の結びつきが強化され、ベースラインと比較して単独の（ペアでない）エンティティが減少。
• alpha が約 10 のとき、 precision と recall のバランスが改善され、最も強い F1 を示す。