[論文レビュー] A Full End-to-End Semantic Role Labeler, Syntax-agnostic Over Syntax-aware?

Jiaxun Cai, Shexia He+2 more|arXiv (Cornell University)|Aug 11, 2018

Natural Language Processing Techniques参考文献 36被引用数 11

ひとこと要約

本論文は、構文解析特徴を用いない、構文に依存しない完全なエンド・ツー・エンドのニューラルモデルを初めて提案し、1つの統合フレームワーク内で述語の意味あいまいさ解消と引数ラベル付けを同時に実行する依存ベースの意味的役割ラベリング（SRL）を実現した。非線形変換を施したBiLSTMエンコーダーとバイアフィンスコアラーを用い、CoNLL-2008で85.0%、CoNLL-2009英語で89.6%、CoNLL-2009中国語で84.4%のF1スコアを達成し、構文解析特徴に依存しないにもかかわらず、既知の構文に依存するシステムをすべて上回った。

ABSTRACT

Semantic role labeling (SRL) is to recognize the predicate-argument structure of a sentence, including subtasks of predicate disambiguation and argument labeling. Previous studies usually formulate the entire SRL problem into two or more subtasks. For the first time, this paper introduces an end-to-end neural model which unifiedly tackles the predicate disambiguation and the argument labeling in one shot. Using a biaffine scorer, our model directly predicts all semantic role labels for all given word pairs in the sentence without relying on any syntactic parse information. Specifically, we augment the BiLSTM encoder with a non-linear transformation to further distinguish the predicate and the argument in a given sentence, and model the semantic role labeling process as a word pair classification task by employing the biaffine attentional mechanism. Though the proposed model is syntax-agnostic with local decoder, it outperforms the state-of-the-art syntax-aware SRL systems on the CoNLL-2008, 2009 benchmarks for both English and Chinese. To our best knowledge, we report the first syntax-agnostic SRL model that surpasses all known syntax-aware models.

研究の動機と目的

• 依存ベースSRLにおいて、述語の意味あいまいさ解消と引数ラベル付けを統合的に統一する完全なエンド・ツー・エンドのニューラルモデルの開発。
• 構文解析特徴に依存しないことの実現により、長年にわたり広く信じられてきた「構文は高性能SRLに不可欠である」という仮説に挑戦すること。
• 構文情報の一切を用いずに、英語および中国語のCoNLLベンチマークで最先端の性能を達成すること。
• より単純で構文に依存しないアーキテクチャが、複雑な構文に依存するモデルを上回る可能性があるかを検討すること。

提案手法

• 述語と引数を別々のベクトル空間にマップする非線形変換を施した深層BiLSTMエンコーダー。
• 文内のすべての語ペアに対して意味的役割を直接予測するバイアフィン注意力スコアラー。
• SRLを語ペア分類タスクとしてモデル化し、仮想ルートノード$<$VR$>$と「なし」ラベルを非関係を表すために導入。
• パイプライン的なサブタスクを回避するため、1回の統合的フォワードパスで述語の意味と引数役割を同時に予測。
• 不均等なラベル分布に対応するためバイアス項を組み込んだバイアフィン機構を用い、一般化性能の向上を図った。
• 構文解析特徴を一切使用せず、外部の構文情報なしに生テキストからエンド・ツー・エンドで学習した。

実験結果

リサーチクエスチョン

• RQ1 構文に依存しないエンド・ツー・エンドモデルは、構文解析に依存せずに依存ベースSRLで最先端の性能を達成できるか？
• RQ2 パイプライン的手法とは対照的に、述語の意味あいまいさ解消と引数ラベル付けを1つの統合予測フレームワークに統合することで性能が向上するか？
• RQ3 性能向上は、より洗練された単語表現や構文特徴の向上によるものではなく、アーキテクチャの革新によるものか？
• RQ4 同じ条件下で評価された場合、構文に依存するシステムと比較して、本モデルの性能はどの程度か？

主な発見

• 提案された構文に依存しないモデルは、CoNLL-2008英語でF1スコア85.0%を達成し、これまでに報告されたすべての構文に依存するモデルを上回った。
• CoNLL-2009英語では89.6%のF1スコアを達成し、構文に依存するモデルおよび構文に依存しないモデルの両方で、新たな最先端性能を樹立した。
• 中国語ではCoNLL-2009で84.4%のF1スコアを達成し、再び既知のすべての構文に依存するモデルを上回った。
• 構文に依存するプルーニングを組み合わせた場合、性能向上がほとんど見られなかったことから、モデルは構文入力に対してほとんど感受性がなく、構文のノイズに対しても頑健であることが示された。
• 性能向上の主な要因はアーキテクチャ設計、特にバイアフィンスコアラーと非線形エンコーダーに起因しており、より洗練された単語表現によるものではない。
• 本研究は、パイプライン的なサブタスクを一切含まず、1つの統合フレームワーク内で述語の意味あいまいさ解消と引数ラベル付けを同時に処理する、最初のエンド・ツー・エンドSRLシステムを提示した。