[論文レビュー] Improving Neural Relation Extraction with Positive and Unlabeled Learning

Zhengqiu He, Wenliang Chen+4 more|arXiv (Cornell University)|Nov 28, 2019

Natural Language Processing Techniques参考文献 21被引用数 5

ひとこと要約

本稿では、強化学習を用いて陽性文を選別し、バッグレベルで陽性および未ラベル付きインスタンスを統合的にモデル化する、ニューラル関係抽出のための新しい陽性・未ラベル（PU）学習フレームワークを提案する。関係埋め込みを強化学習の状態に組み込み、陽性および未ラベルバッグからの表現を統合することで、実世界のデータセットにおいて強力なベースラインを著しくかつ一貫して上回る性能を達成する。

ABSTRACT

We present a novel approach to improve the performance of distant supervision relation extraction with Positive and Unlabeled (PU) Learning. This approach first applies reinforcement learning to decide whether a sentence is positive to a given relation, and then positive and unlabeled bags are constructed. In contrast to most previous studies, which mainly use selected positive instances only, we make full use of unlabeled instances and propose two new representations for positive and unlabeled bags. These two representations are then combined in an appropriate way to make bag-level prediction. Experimental results on a widely used real-world dataset demonstrate that this new approach indeed achieves significant and consistent improvements as compared to several competitive baselines.

研究の動機と目的

• 遠隔監視ベースの関係抽出におけるノイズの多いラベル付け問題に対処するため、陽性および未ラベル文を活用する。
• 過去の研究でしばしば無視されたり、誤って負例として扱われたりする未ラベルインスタンスを完全に活用することで、バッグレベルの関係分類を向上させる。
• 文、関係、および選択済み陽性インスタンスの埋め込みを含む状態表現を用いて、陽性文を特定する強化学習エージェントを設計する。
• 陽性および未ラベルバッグの表現を統合するための共同表現学習メカニズムを提案し、関係分類の性能を向上させる。
• 関係埋め込みが強化学習の状態表現に与える影響と、未ラベルデータをPU学習で活用する利点を実証する。

提案手法

• 強化学習エージェントは、文の埋め込み、関係の埋め込み、および事前に選択された陽性インスタンスの埋め込みを含む状態表現を用いて、各エンティティ・関係ペアの文を陽性または未ラベルに分類するように訓練される。
• RLエージェントは高品質な陽性文を選別し、陽性バッグを形成する。残りの文は未ラベルバッグにグループ化される。
• 陽性バッグおよび未ラベルバッグのそれぞれに別個のエンコーダーを用いて、特徴的な表現を別々に学習する。
• 陽性バッグおよび未ラベルバッグの表現を連結し、最終的な分類器に供給することでバッグレベルの関係予測を行う。
• 文の選別器と関係分類器を共同で訓練することで、選別精度と最終的な関係分類性能の両方を向上させる。
• 関係埋め込みを強化学習の状態表現に明示的に組み込むことで、選別プロセスをガイドし、モデル性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 陽性および未ラベル文を統合的にモデリングするPU学習フレームワークは、陽性インスタンスのみを用いる場合よりも関係抽出性能を向上させるか？
• RQ2 強化学習エージェントの状態表現に関係埋め込みを組み込むことで、文の選別および下流の関係分類性能が向上するか？
• RQ3 未ラベル文を負例として扱わない場合、それらの使用による性能向上は顕著か？
• RQ4 強化学習ベースの選別器と関係分類器の共同訓練が、全体のシステム性能に与える影響は何か？
• RQ5 適切に表現され統合された未ラベルデータが、最終的な関係分類に果たす貢献は何か？

主な発見

• 提案手法は、広く使われている実世界の関係抽出データセットにおいて、複数の強力なベースラインを著しくかつ一貫して上回る性能を達成する。
• 関係埋め込みを強化学習の状態表現に組み込むことで、アブレーションスタディおよび図4および図5で示されるように顕著な性能向上が得られる。
• 未ラベル文を破棄するのではなく、学習プロセスに活用することで、より良い一般化性能と高いF1スコアが達成される。
• アブレーションスタディにより、未ラベルデータの使用と、強化学習の状態表現への関係埋め込みの組み込みが、最適な性能を達成するために不可欠であることが確認される。
• 文の選別器と関係分類器の共同訓練により、より良い整合性が得られ、最終的な予測精度が向上する。
• 未ラベルデータを無視するか、誤って負例として扱う既存のアプローチに比べ、本手法が優れた性能を示す。これは、提案されたPU学習戦略の利点を裏付ける。