[論文レビュー] Syntax-aware Neural Semantic Role Labeling with Supertags

Jungo Kasai, Dan Friedman+3 more|arXiv (Cornell University)|Mar 12, 2019

Natural Language Processing Techniques参考文献 28被引用数 4

ひとこと要約

本稿では、完全な句構造木の代わりに、従属構造解析から得られる豊富な構文的タグであるスーパータグを用いる構文に配慮したニューラル意味的役割ラベリング（SRL）モデルを提案する。BiLSTMを用いてスーパータグを予測し、それらを単語と品詞の埋め込みと組み合わせて、深層ハイウェイBiLSTMを用いてSRLに使用することで、CoNLL 2009の英語およびスペイン語データセットで最先端の性能を達成した。これは、構文に依存しないモデルおよび完全な解析に基づくモデルを上回る結果である。

ABSTRACT

We introduce a new syntax-aware model for dependency-based semantic role labeling that outperforms syntax-agnostic models for English and Spanish. We use a BiLSTM to tag the text with supertags extracted from dependency parses, and we feed these supertags, along with words and parts of speech, into a deep highway BiLSTM for semantic role labeling. Our model combines the strengths of earlier models that performed SRL on the basis of a full dependency parse with more recent models that use no syntactic information at all. Our local and non-ensemble model achieves state-of-the-art performance on the CoNLL 09 English and Spanish datasets. SRL models benefit from syntactic information, and we show that supertagging is a simple, powerful, and robust way to incorporate syntax into a neural SRL system.

研究の動機と目的

• 完全な従属構造解析に依存せずに、構文的情報を統合することにより、意味的役割ラベリング（SRL）の性能を向上させること。
• 言語学的に豊富でシーケンスレベルのタグであるスーパータグが、ニューラルSRLにおける完全な句構造解析の代替手段として効果的かつ頑健であるかどうかを調査すること。
• さまざまな文の長さや述語の種別におけるSRL性能に与える影響を踏まえ、異なるスーパータグ設計の影響を評価すること。
• スーパータグが、構文に依存しないモデルと複雑な解析に基づくモデルの中間的役割を果たし、一般化性能と頑健性を向上させることを示すこと。
• 完全な解析が失敗する可能性がある低リソースまたはドメイン外の設定において、スーパータグの有用性を検討すること。

提案手法

• CoNLL 2009コーパスの従属構造解析からスーパータグを抽出し、4つの異なるスーパータグモデル（モデル0：関係 + 方向、モデル1：必須従属語の情報追加、モデル2：必須従属語への関係の追加、および新しいTAGモデル：木付加文法にインspired）を用いる。
• 単語と品詞からなる入力を用いて、実数値の埋め込みを予測する双向LSTM（BiLSTM）スーパータッガーを訓練する。
• スーパータグの埋め込みに加え、単語と品詞の埋め込みを組み合わせ、意味的役割ラベリングに用いる深層ハイウェイBiLSTMに供給する。
• アンサンブルを用いず、局所的なモデルアーキテクチャを採用することで、効率性を確保し、解析の誤差伝搬を回避する。
• CoNLL 2009の英語およびスペイン語のドメイン内およびドメイン外のテストセットで性能を評価し、スーパータグモデルとベースラインとの比較を行う。
• 文の長さおよび述語の種別ごとに性能を分析し、頑健性および言語学的感度を評価する。

実験結果

リサーチクエスチョン

• RQ1 従属構造解析から得られるスーパータグは、構文に依存しないニューラルモデルと比較して、SRLの性能向上に寄与するか？
• RQ2 構文的表現力の異なるさまざまなスーパータグ設計は、英語およびスペイン語におけるSRL性能にどのように影響を与えるか？
• RQ3 スーパータグを用いることで、完全な従属構造解析よりもより頑健で一般化可能な代替手段が得られるか？
• RQ4 スーパータグは、より長い文やドメイン外の文において、SRLの性能をどのように向上させるか？
• RQ5 より複雑な構文的符号化手法（例：従属パスモデリング）を上回る性能をスーパータグが示せるか？

主な発見

• モデル1のスーパータグを用いた本モデルは、CoNLL 2009の英語ドメイン内テストセットで92.0のF1スコアを達成し、BiLSTMベースラインおよびPath-LSTMモデルを上回った。
• モデル1のスーパータグは、すべての述語カテゴリ（V/A0, V/A1, V/A2, V/AM, N/A2, N/AM）で性能を向上させ、BiLSTMおよびBDHベースラインと比較して一貫した向上を示した。
• スペイン語ドメイン内テストセットではF1スコア92.9を達成し、強力な多言語一般化性能を示した。
• スーパータグベースのモデルは、特にドメイン外設定において、より長い文で顕著な向上を示した。これは、構造的複雑さに対して頑健であることを示している。
• 最も単純なモデル0（基本的スーパータグ）が、重要な役割（V/A0, V/A1, V/AM, N/AM）においてPath-LSTMモデルを上回った。これは、単純なスーパータグですら、より複雑な構文的パスモデリングを上回ることを示している。
• アンサンブルを用いず、完全な構文解析に依存しない形で最先端の結果を達成した。これは、スーパータグが軽量でありながら構文的に豊富な信号として効果的であることを示している。