[論文レビュー] Jointly Predicting Predicates and Arguments in Neural Semantic Role Labeling

Luheng He, Kenton Lee+2 more|arXiv (Cornell University)|May 12, 2018

Topic Modeling参考文献 21被引用数 15

ひとこと要約

この論文では、ゴールドの動詞を必要とせず、予測された動詞、語句範囲、およびそれらの意味的役割を一括して予測するエンド・ツー・エンドのニューラル意味的役割ラベリングモデルを提案する。文脈に応じた範囲表現と、すべての可能な動詞-語句ペアに対する独立的なエッジ予測にビームプルーニングを適用することで、ゴールド動詞なしでPropBank SRLで最先端の性能を達成し、構文的境界一致率も向上させた。

ABSTRACT

Recent BIO-tagging-based neural semantic role labeling models are very high performing, but assume gold predicates as part of the input and cannot incorporate span-level features. We propose an end-to-end approach for jointly predicting all predicates, arguments spans, and the relations between them. The model makes independent decisions about what relationship, if any, holds between every possible word-span pair, and learns contextualized span representations that provide rich, shared input features for each decision. Experiments demonstrate that this approach sets a new state of the art on PropBank SRL without gold predicates.

研究の動機と目的

• ゴールド動詞に依存する従来のBIOタギングSRLモデルの制限を解消し、範囲レベルの特徴を統合可能にする。
• 1回のフォワードパスで動詞、語句、およびそれらの意味的役割をエンド・ツー・エンドで予測可能にする。
• SRL構造における重複する範囲や長距離依存関係のモデリングを改善する。
• 明示的な構文特徴工学を用いずに、高い構文的境界一致率を達成する。
• 独立的でビームプルーニングを施したエッジ予測を用いた範囲ベースSRLの可能性を検討する。

提案手法

• すべてのトークンを潜在的な動詞とし、すべての範囲を潜在的な語句として扱い、各可能な動詞-語句ペアに対して意味的役割ラベルを予測する。
• すべての動詞-語句ペアに対して条件付き独立性の仮定を適用し、各エッジを単一の範囲スコアと関係固有のスコアの組み合わせで独立してスコア化する。
• 文脈に応じた範囲表現は、単語および文字埋め込みを用いたBiLSTMにより学習され、各予測のための豊富で共有された入力特徴を提供する。
• ビームプルーニングにより、単一スコアに基づいて上位k個の予測動詞および語句を抽出することで、計算複雑度をO(n³|L|)からO(n²|L|)に削減する。
• 候補語句の最大範囲長をW（例：30）に制限することで、さらに候補数を制限する。
• テスト時に動的計画法を用いてグローバル構造的制約を強制し、コア役割予測の不整合を低減する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルSRLモデルは、ゴールド動詞に依存せず、動詞と語句を同時に予測できるか？
• RQ2 文脈に応じた範囲表現を用いることで、トークンレベルの表現に比べてSRL性能が向上するか？
• RQ3 すべての動詞-語句ペアに対して独立したエッジ予測を実施することで、競争力のある性能が得られ、重複する範囲をサポートできるか？
• RQ4 従来のSRLシステムと比較して、長距離語句依存関係の処理においてモデルの性能はどの程度か？
• RQ5 モデルの独立性仮定が、グローバル構造的一致性にどの程度悪影響を及えるか？

主な発見

• ゴールド動詞を必要とせず、PropBank SRLベンチマークで最先端の性能を達成し、新たなSOTAを樹立した。
• 95.0%の構文的境界一致率を達成し、明示的な構文特徴を用いていないにもかかわらず、構文ベースのシステムと同等の性能を示した。
• 長距離依存関係に対して優れた性能を示し、動詞と語句の距離が増加するにつれてF1の低下が、ベースラインシステムよりも遅やかに進行した。
• グローバル一貫性の問題を抱えており、CoNLL 2005開発セットで69件のユニークコア役割制約（U）違反を示したが、これは先行システムの37〜48件よりも顕著に多かった。
• テスト時に制約付きデコードを適用することで、すべてのU制約違反が解消され、CおよびR違反も減少したが、全体のSRL F1にはわずかな向上しか得られなかった。
• ビームサイズに強く依存せず、1語あたり60〜100個の動詞を保持することで、ゴールド語句を含む動詞のリCALLが約90%で安定した。