[論文レビュー] Exploit Multiple Reference Graphs for Semi-supervised Relation Extraction

Wanli Li, Tieyun Qian|arXiv (Cornell University)|Oct 22, 2020

Topic Modeling参考文献 39被引用数 9

ひとこと要約

本稿では、半教師あり関係抽出のための複数参照グラフ（MRefG）モデルを提案する。このモデルは、エンティティ、動詞、意味的類似性に基づいて、ラベルなしサンプルとラベルありサンプルを接続するエンティティ参照グラフ、動詞参照グラフ、意味的参照グラフを構築し、構造的および意味的類似性を活用することで関係予測の精度を向上させる。本手法は、2つの公開データセットにおいて最先端のベースラインを上回り、トレーニング拡張のための高品質なラベルなしサンプルの特定をより正確に可能にしている。

ABSTRACT

Manual annotation of the labeled data for relation extraction is time-consuming and labor-intensive. Semi-supervised methods can offer helping hands for this problem and have aroused great research interests. Existing work focuses on mapping the unlabeled samples to the classes to augment the labeled dataset. However, it is hard to find an overall good mapping function, especially for the samples with complicated syntactic components in one sentence. To tackle this limitation, we propose to build the connection between the unlabeled data and the labeled ones rather than directly mapping the unlabeled samples to the classes. Specifically, we first use three kinds of information to construct reference graphs, including entity reference, verb reference, and semantics reference. The goal is to semantically or lexically connect the unlabeled sample(s) to the labeled one(s). Then, we develop a Multiple Reference Graph (MRefG) model to exploit the reference information for better recognizing high-quality unlabeled samples. The effectiveness of our method is demonstrated by extensive comparison experiments with the state-of-the-art baselines on two public datasets.

研究の動機と目的

• ラベルなしサンプルが関係クラスに直接マッピングされる際の信頼性の低いマッピング関数の課題に対処すること。
• 意味的および語彙的キューを介してラベルなしサンプルとラベルありサンプルの間の接続を確立することで、偽ラベルデータの品質を向上させること。
• 手動ルール設計や知識ベースのアライメントに依存することを減らし、参照グラフを用いてサンプル選択をガイドすること。
• リソースが限られた関係抽出の状況におけるモデルの汎化性能と性能を向上させること。

提案手法

• 共有されるエンティティ、動詞、または意味的類似性に基づいて、ラベルなしサンプルとラベルありサンプルを接続する3種類の参照グラフ（エンティティ参照、動詞参照、意味的参照）を構築する。
• 文の埋め込みを用いて、インスタンス間のコサイン類似度またはドット積類似度を計算し、潜在空間内での近接性に基づいて参照グラフにエッジを形成する。
• 複数のグラフタイプからの情報を集約する複数参照グラフ（MRefG）モデルに参照グラフを統合し、関係予測の信頼性を向上させる。
• 反復的半教師あり学習を適用し、参照グラフの信号を用いてラベルなしセットから高信頼度の予測を選び出し、拡張データで再トレーニングする。
• トレーニングの反復ごとに参照グラフを精錬し、ノイズを低減するとともに、選択されたサンプルの品質を向上させる。
• 特に動詞とエンティティを用いて、構文的および意味的特徴をキーパーツとして、インスタンス間の語彙的および意味的接続を構築する。

実験結果

リサーチクエスチョン

• RQ1 エンティティ、動詞、意味的類似性に基づく複数の参照グラフの構築が、半教師あり関係抽出における偽ラベルデータの品質向上に寄与するか。
• RQ2 直接マッピング関数と比較して、参照グラフは高信頼度のラベルなしサンプルを特定する上でどのように効果的か。
• RQ3 参照グラフは、構文的複雑さや修飾語の干渉が関係予測に与える影響をどの程度軽減できるか。
• RQ4 参照グラフは、曖昧または複雑な文構造における正しい関係の方向性を回復するのを支援できるか。

主な発見

• MRefGモデルは、2つの公開データセットにおいて、最先端の教師ありおよび半教師ありベースラインを一貫して上回り、F1スコアおよび精度の両面で優れた性能を示している。
• トレーニングの後期段階において、参照グラフがより洗練されノイズが減少するにつれて、ラベルなしサンプルの選択精度が向上している。
• 事例研究では、MRefGがS2における「エンティティ-目的地」関係やS3における「製品-生産者」関係を正しく同定しているのに対し、DualREは構文的複雑さのため失敗している。
• S4において、MRefGは「lead to」を含むトレーニングサンプルとの意味的類似性を活用することで関係の方向性を正しく捉えているが、DualREはトレーニングデータ内の方向パターンにだまされてしまう。
• 動詞およびエンティティエッジの使用により、モデルは構文的バリエーションを越えて一般化でき、文の修飾語への耐性が向上している。
• MRefGの性能曲線は、トレーニングの後期段階でも改善を続けるため、参照グラフの精錬による持続的な利点が示されている。