[論文レビュー] An MRC Framework for Semantic Role Labeling

Nan Wang, Jiwei Li+6 more|arXiv (Cornell University)|Sep 14, 2021

Topic Modeling参考文献 55被引用数 4

ひとこと要約

本稿では、フレームファイルからの意味的記述を用いて、複数選択型MRCタスクとしての述語意味素の判別と、抽出型MRCタスクとしての格助詞ラベル付けを統合する、意味的役割ラベル付け（SRL）のための機械読解（MRC）フレームワークを提案する。このアプローチは、CoNLL2005、CoNLL2009、CoNLL2012ベンチマークで最先端または競争力のある結果を達成するとともに、役割の意味的情報を統合し、役割予測モジュールを用いることで計算効率を向上させている。

ABSTRACT

Semantic Role Labeling (SRL) aims at recognizing the predicate-argument structure of a sentence and can be decomposed into two subtasks: predicate disambiguation and argument labeling. Prior work deals with these two tasks independently, which ignores the semantic connection between the two tasks. In this paper, we propose to use the machine reading comprehension (MRC) framework to bridge this gap. We formalize predicate disambiguation as multiple-choice machine reading comprehension, where the descriptions of candidate senses of a given predicate are used as options to select the correct sense. The chosen predicate sense is then used to determine the semantic roles for that predicate, and these semantic roles are used to construct the query for another MRC model for argument labeling. In this way, we are able to leverage both the predicate semantics and the semantic role semantics for argument labeling. We also propose to select a subset of all the possible semantic roles for computational efficiency. Experiments show that the proposed framework achieves state-of-the-art or comparable results to previous work. Code is available at \url{https://github.com/ShannonAI/MRC-SRL}.

研究の動機と目的

• 従来のSRLアプローチにおける述語の意味素の判別と格助詞ラベル付けの間の意味的統合の欠如に対処すること。
• フレームファイルに記載された意味的情報——特に述語の意味素と格助詞役割の意味——を統一されたフレームワーク内で活用すること。
• ラベルの意味的情報を統合することで、低リソースおよびドメイン外設定におけるモデルの頑健性を向上させること。
• 役割予測モジュールを用いて不要な意味的役割をフィルタリングすることで、格助詞ラベル付けにおける計算オーバーヘッドを低減すること。

提案手法

• 候補となる述語意味素（およびそれらの記述）を答えの選択肢として扱う、複数選択型MRCとして述語意味素の判別を形式化する。
• 予測された述語意味素を基に、対象の述語に関連する意味的役割を特定する。
• 格助詞ラベル付けを、意味的役割の記述（例：「移動の原因」）から構築したクエリを用いて抽出型MRCに変換する。
• 最も確率の高い意味的役割のサブセット（例：上位λN個）を選択する役割予測モジュールを導入する。
• すべてのMRCコンponentにRoBERTa-Baseをベースモデルとして用い、CoNLLベンチマークで微調整する。
• 語形の標準化と学習済みの役割確率を用いたフィルタリングにより、すべての可能な<ラベル, 文>ペアをエンコードするのを回避する。

実験結果

リサーチクエスチョン

• RQ1 述語意味素の判別と格助詞ラベル付けをMRCタスクとしてモデル化することで、2つのサブタスク間の意味的整合性が向上するか？
• RQ2 述語意味素と格助詞役割の明示的な意味的記述を組み込むことで、特に低リソースまたはドメイン外設定において性能が向上するか？
• RQ3 役割予測モジュールは、ラベル付けの正確性を損なわせることなく、計算コストをどの程度低減できるか？
• RQ4 トレーニングデータとテストデータのドメインが異なる場合、役割の意味的情報が格助詞ラベル付けの性能に与える影響は何か？

主な発見

• 提案されたMRCフレームワークは、CoNLL2005、CoNLL2009、CoNLL2012ベンチマークで最先端または競争力のある結果を達成した。
• 格助詞ラベル付けに役割の意味的情報を組み込むことで、開発セットではF1スコアが0.6ポイント向上（88.5 vs. 88.2）、ドメイン外のBrownテストセットでは0.6ポイント向上（83.8 vs. 83.2）した。
• 役割予測の再現率を0.90から0.99に上げたとき、格助詞ラベル付けのF1スコアは87.3から88.6に向上し、誤差の伝搬が低減したことが示された。
• 低リソース状況では、意味的事前知識を有するMRCモデルは、意味的事前知識を持たないベースラインのBIOタギングモデルを上回り、特にデータ割合が低い場合に顕著であった。
• 役割予測モジュールにより、CoNLL2005、CoNLL2009、CoNLL2012でそれぞれλ値が5、4.2、5.5のとき、計算速度が4倍から5.1倍向上した。