[論文レビュー] Dependency or Span, End-to-End Uniform Semantic Role Labeling

Zuchao Li, Shexia He+5 more|arXiv (Cornell University)|Jan 16, 2019

Natural Language Processing Techniques参考文献 31被引用数 18

ひとこと要約

本論文は、共有された引数表現とバイアフィンスコアリングを用いて、スパンベースおよび従属関係ベースの意味役割ラベリング（SRL）を統合的に扱うエンドツーエンドのニューラルモデルを提案する。構文情報なしで述語と引数を同時に予測することで、CoNLL 2005、2012（スパンSRL）およびCoNLL 2008、2009（従属関係SRL）ベンチマークで最先端の性能を達成した。

ABSTRACT

Semantic role labeling (SRL) aims to discover the predicateargument structure of a sentence. End-to-end SRL without syntactic input has received great attention. However, most of them focus on either span-based or dependency-based semantic representation form and only show specific model optimization respectively. Meanwhile, handling these two SRL tasks uniformly was less successful. This paper presents an end-to-end model for both dependency and span SRL with a unified argument representation to deal with two different types of argument annotations in a uniform fashion. Furthermore, we jointly predict all predicates and arguments, especially including long-term ignored predicate identification subtask. Our single model achieves new state-of-the-art results on both span (CoNLL 2005, 2012) and dependency (CoNLL 2008, 2009) SRL benchmarks.

研究の動機と目的

• スパンベースおよび従属関係ベースのSRLを、単一のエンドツーエンドフレームワークで統一すること。
• 述語と引数を同時に予測することにより、しばしば無視されがちな述語同定タスクを含めること。
• 構文に依存しない条件下で、従属関係表現とスパン表現のどちらがSRLに効果的であるかを評価すること。
• ELMoとバイアフィンスコアリングがモデル性能に与える影響を調査すること。

提案手法

• すべての語を潜在的な述語とみなすようにスパンSRLモデルを拡張し、すべてのスパン／語を候補引数とする。
• スパンSRLおよび従属関係SRLのアノテーションフォーマットの両方を処理できる統合的引数表現を導入する。
• 文脈依存語表現から直接的に述語-引数関係を予測するバイアフィンスコアラーを採用する。
• 文脈依存語表現としてELMo埋め込みを用いて、構文的および意味的依存関係のモデリングを向上させる。
• パイプラインエラーを回避するため、すべての述語と引数を同時に予測するための共同学習を適用する。
• 正確な構文構造を用いてスパンアノテーションを従属関係形式に変換するためのヘッド検出アルゴリズムを適用する。

実験結果

リサーチクエスチョン

• RQ1 統一された表現を用いて、1つのエンドツーエンドモデルがスパンベースおよび従属関係ベースのSRLを効果的に処理できるか？
• RQ2 構文に依存しない訓練条件下で、従属関係ベースSRLがスパンベースSRLよりも効果的であるか？
• RQ3 ELMo表現とバイアフィンスコアリングは、統合的SRLにおけるモデル性能にどのように寄与するか？
• RQ4 述語と引数の共同予測は、両方のSRL形式においてパイプライン手法を上回る性能を発揮できるか？

主な発見

• 提案モデルは、スパンSRLにおいてCoNLL 2005で87.7%、CoNLL 2012で86.0%のF1スコアを達成し、新たな最先端性能を記録した。
• 従属関係SRLでは、CoNLL 2009 WSJで90.4%、CoNLL 2008 WSJで85.3%のF1スコアを達成し、新たな最先端結果を樹立した。
• ELMoを除去すると、CoNLL 2005で3.3–3.5ポイントのF1スコア低下が生じ、スパンSRLにおけるELMoの強力な利点を示した。
• バイアフィンスコアラーを全結合ネットワークに置き換えると、F1スコアが0.5–1.6ポイント低下し、バイアフィンスコアリングの優位性を示した。
• ゴールド構文を用いてスパンアノテーションを従属関係形式に変換した場合でも、モデルの従属関係SRL性能（90.4%）はスパン変換の上限（89.2%）を上回り、従属関係SRLの優位性を示した。
• 構文に依存しない学習条件下でも、スパンアノテーションをゴールド構文で変換した場合を除き、従属関係SRLがスパンSRLよりも効果的であることが示された。