[論文レビュー] Fast and Accurate End-to-End Span-based Semantic Role Labeling as Word-based Graph Parsing

Shilin Zhou, Qingrong Xia+4 more|arXiv (Cornell University)|Dec 6, 2021

Topic Modeling被引用数 5

ひとこと要約

本稿では、エンドツーエンドのスパンベースSRLのための新しい語ベースのグラフパーシングフレームワークを提案する。議論のスパンは4つのグラフスキーマ（BES、BE、BIES、BII）で表現され、BESが優れた性能を示す。この手法は、BERTを用いない場合に1秒間に669文、BERTを用いる場合に252文を処理するという、最先端の正確性と高速性を達成しており、構造的整合性を保証する制約付きViterbi後処理手順を用いている。

ABSTRACT

This paper proposes to cast end-to-end span-based SRL as a word-based graph parsing task. The major challenge is how to represent spans at the word level. Borrowing ideas from research on Chinese word segmentation and named entity recognition, we propose and compare four different schemata of graph representation, i.e., BES, BE, BIES, and BII, among which we find that the BES schema performs the best. We further gain interesting insights through detailed analysis. Moreover, we propose a simple constrained Viterbi procedure to ensure the legality of the output graph according to the constraints of the SRL structure. We conduct experiments on two widely used benchmark datasets, i.e., CoNLL05 and CoNLL12. Results show that our word-based graph parsing approach achieves consistently better performance than previous results, under all settings of end-to-end and predicate-given, without and with pre-trained language models (PLMs). More importantly, our model can parse 669/252 sentences per second, without and with PLMs respectively.

研究の動機と目的

• 逐次的またはマルチパスデコードに依存する既存のエンドツーエンドスパンベースSRL手法の非効率性と複雑さに対処すること。
• スパンベースSRLを語ベースのグラフパーシングタスクに再定式化することで、述語と項の統合的かつ効率的な予測を可能にすること。
• CWSおよびNERにインspiredされた語レベルでのスパン境界を符号化するための効果的なグラフ表現スキーマを調査すること。
• SRL構造的制約（例：重複しない項スパン、有効な述語-項関係）を強制することで、パースされたグラフの構造的整合性を保証すること。
• 特にエンドツーエンドおよび述語与えられた設定において、高い正確性と高い推論速度を両立すること。

提案手法

• 本手法は、語をノードとし、語間に述語-項リンク（意味的役割を伴う）をエッジとして表現する語ベースのグラフパーシング問題としてスパンベースSRLを定式化する。
• 4つのグラフスキーマ（BES、BE、BIES、BII）を提案し、語レベルでの項スパンの符号化を比較したところ、BESが最も優れた性能を示した。
• モデルはWangら（2019）が提案した2階層グラフパーシングアーキテクチャを改変したもので、述語と項を同時に予測するエンドツーエンド学習を実施する。
• SRL構造的制約（重複しない項スパン、有効な述語-項関係など）を強制することで、不正なグラフを是正する制約付きViterbiデコード手順を適用する。
• トレーニング時に述語埋め込みを組み込むことで、共通モデルを用いてエンドツーエンドおよび述語与えられた設定の両方をサポートする。
• モデルの堅牢性とスケーラビリティを評価するため、事前学習言語モデル（PLM）としてBERTやELMoを用い、用いない状況の両方で評価を実施した。

実験結果

リサーチクエスチョン

• RQ1 どのグラフスキーマ（BES、BE、BIES、BII）が語レベルのグラフパーシングフレームワークにおいてスパンベースSRL構造を最も適切に表現できるか？
• RQ2 語ベースのグラフパーシングは、従来のBIOベースやスパンベースのグラフパーシング手法と比較して、エンドツーエンドSRLにおいてより高い正確性と効率性を達成できるか？
• RQ3 境界情報およびスパン長情報（例：1語の項 vs. 複数語の項の区別）を含めることで、モデルの性能にどのような影響を与えるか？
• RQ4 制約付きViterbiデコードによって、正確性を損なわず、パースされたグラフの構造的整合性をどの程度向上できるか？
• RQ5 特にPLM拡張設定下において、本手法は先行SRLパーサーよりも推論速度でどの程度スケーリングできるか？

主な発見

• BESスキーマは、CoNLL05およびCoNLL12データセットの全設定において一貫して他のグラフスキーマを上回り、最高のF1スコアを達成した。
• エンドツーエンドおよび述語与えられた設定の両方で最先端の性能を達成した。ELMoを用いる場合、WSJで+0.25 F1、Brownで+0.77 F1、CoNLL12-testで+0.44 F1の向上を示した。
• BERTを用いることで、さらなる性能向上が得られ、強力な事前学習言語モデルとの高い相性を示した。
• PLMを用いない場合、1秒間に669文、PLMを用いる場合に252文を処理するという高速な処理速度を達成しており、先行手法よりも顕著に高速であった。
• 制約付きViterbi後処理手順により、不正なグラフが効果的に排除されつつも、高い正確性が維持され、構造的に整合性のあるSRL出力を保証した。
• 詳細な分析から、項の境界情報を符号化し、1語の項と複数語の項を区別することにより、モデルの性能が顕著に向上することが明らかになった。