[論文レビュー] Learning Global Features for Coreference Resolution

Sam Wiseman, Alexander M. Rush+1 more|arXiv (Cornell University)|Apr 11, 2016

Topic Modeling参考文献 37被引用数 43

ひとこと要約

本稿では、参照解決のためのエンド・ツー・エンドな新規システムを提案する。このシステムは、文脈の局所的特徴に加えて、エンティティクラスタの全体的で隠れられた表現を再帰的ニューラルネットワーク（RNN）を用いて学習することで、複雑な推論を必要とせずに、代名詞的照応の性能を著しく向上させる。この手法は、最先端の手法よりもCoNLL F1スコアで0.8ポイント向上させ、すべての評価指標で統計的に有意な改善を達成した。

ABSTRACT

There is compelling evidence that coreference prediction would benefit from modeling global information about entity-clusters. Yet, state-of-the-art performance can be achieved with systems treating each mention prediction independently, which we attribute to the inherent difficulty of crafting informative cluster-level features. We instead propose to use recurrent neural networks (RNNs) to learn latent, global representations of entity clusters directly from their mentions. We show that such representations are especially useful for the prediction of pronominal mentions, and can be incorporated into an end-to-end coreference system that outperforms the state of the art without requiring any additional search.

研究の動機と目的

• mentionランク付けシステムにおける代名詞的照応エラーの継続的課題に対処すること。これは、全体的な文脈が欠落しているため、しばしば失敗する。
• クラスタレベルの特徴を手作業で設計する難しさを克服し、mentionの順序からエンド・ツー・エンドに特徴を学習すること。
• 局所的なmentionランク付けフレームワークに、全体的な構造的情報を組み込むが、推論効率を損なわないこと。
• 隠れられたRNNベースのクラスタ表現が、曖昧な代名詞を解消するための本質的な全体的依存関係を捉えられることを示すこと。
• 追加の探索や複雑な学習手順を用いずに、参照解決ベンチマークで最先端の性能を達成すること。

提案手法

• モデルは、各クラスタ内のmentionの順序を、双方向RNNを用いて、構造的・意味的依存関係を捉えた隠れられた全体的表現にエンコードする。
• RNNはmentionが出現する順に処理し、各mentionに対して、進化するクラスタ状態を反映した文脈に適応した隠れ状態を生成する。
• グローバルスコア関数 $ g(x_n, y_n, \boldsymbol{z}_{1:n-1}) $ は、RNNで学習されたクラスタ表現を、各mention $ x_n $ の先行照応予測に統合する。
• システムは、固定された文脈のもとでエンド・ツー・エンドに学習される局所的分類器として訓練され、標準的なmentionランク付けモデルと同様に、効率的なグリーディ推論が可能になる。
• RNNベースのグローバル特徴は、mentionランク付けフレームワークに統合され、各mentionの先行照応は、局所的特徴とRNNで学習されたクラスタ表現に基づいて予測される。
• モデルは、注意メカニズムを用いて、特定の代名詞の予測に最も影響を与えるmentionを特定し、勾配の重要度可視化を通じてその影響を可視化する。

実験結果

リサーチクエスチョン

• RQ1 mentionの順序から学習されたグローバル表現が、特に代名詞的照応において参照解決を改善できるか？
• RQ2 エンド・ツー・エンドのRNNベースのクラスタ表現学習アプローチが、手作業で設計されたグローバル特徴に依存するシステムを上回るか？
• RQ3 推論の複雑さを増すことなく、mentionランク付けシステムにグローバル情報を組み込めるか？
• RQ4 RNNで学習されたクラスタ表現が、現在のシステムで主なエラー源となっている曖昧な代名詞の解消にどの程度寄与するか？
• RQ5 グローバル特徴による性能向上が、標準的なCoNLL評価指標すべてで統計的に有意であるか？

主な発見

• 提案されたRNNベースのグローバル特徴学習手法は、以前の最先端手法よりもCoNLL F1スコアを0.8ポイント向上させ、3つのCoNLL指標すべてで統計的に有意な改善を達成した。
• モデルは、過去のmentionランク付けシステムで継続的にエラーが生じていた代名詞的照応のエラーを顕著に低減した。
• グリーディRNNモデルは、'his'という曖昧な代名詞を、性別的に一致するが意味的に誤りである'Justin'ではなく、'Mr. Kaye'に正しく関連付けることで、局所的手がかりを上回る推論能力を示した。
• 勾配の重要度可視化の結果、モデルはクラスタが進化するにつれて意味的に整合性のないmention（例：'The company'と 'his' の組み合わせ）を適切に軽視するよう学習しており、効果的な全体的推論が行われていることが示された。
• モデルは、'It’s' の冗長的使用を正しく同定し、以前に非照応的であるとされた使用がグローバルスコアに寄与することを認識することで、誤った先行照応予測を減らした。
• システムは、多くの構造的モデルが複雑な探索を必要とするのとは異なり、効率的なグリーディ推論を維持しており、効果的かつ実用的である。