[論文レビュー] A Syntax-Guided Grammatical Error Correction Model with Dependency Tree Correction

Zhaohong Wan, Xiaojun Wan|arXiv (Cornell University)|Nov 5, 2021

Natural Language Processing Techniques参考文献 42被引用数 5

ひとこと要約

本稿では、依存木からの構文知識を活用するためのグラフアテンション機構を用いた構文誘導型文法的誤り訂正モデルSG-GECを提案する。誤った元文における誤った依存木による誤りを軽減するため、依存木訂正タスクを導入している。大規模事前学習モデルに依存せずに、公開GECベンチマークで最先端の性能を達成している。

ABSTRACT

Grammatical Error Correction (GEC) is a task of detecting and correcting grammatical errors in sentences. Recently, neural machine translation systems have become popular approaches for this task. However, these methods lack the use of syntactic knowledge which plays an important role in the correction of grammatical errors. In this work, we propose a syntax-guided GEC model (SG-GEC) which adopts the graph attention mechanism to utilize the syntactic knowledge of dependency trees. Considering the dependency trees of the grammatically incorrect source sentences might provide incorrect syntactic knowledge, we propose a dependency tree correction task to deal with it. Combining with data augmentation method, our model achieves strong performances without using any large pre-trained models. We evaluate our model on public benchmarks of GEC task and it achieves competitive results.

研究の動機と目的

• 依存木からの構文知識をニューラル文法的誤り訂正モデルに統合すること。
• 誤った元文から得られる誤った依存木が構文モデリングを誤導する問題に対処すること。
• 訂正済み文における語の間の関係予測により、訂正済みの構文的に正しい依存木を再構築するタスクを設計すること。
• 大規模事前学習モデルを用いないで、データ拡張とアーキテクチャ設計によりGEC性能を向上させること。
• シーケンスおよび構文的監視のみを用いて、標準的なGECベンチマークで競争力のある結果を達成すること。

提案手法

• モデルは、依存木からの構文的依存関係を符号化するためにグラフアテンション機構を採用し、長距離の構文的関係を捉える。
• 新規の依存木訂正タスクを導入し、完全な木の再構築ではなく、訂正済み文における語の間の依存関係を予測する。
• 標準的なGEC損失と依存木訂正損失の両方を用いたマルチタスク学習により、訂正と構文構造の両方を同時に学習可能にする。
• データ拡張を用いてトレーニングデータの多様性を高め、特にレアな誤りタイプの一般化性能を向上させる。
• 構文誘導型エンコーダは、依存構造の上でのアテンションにより、構文情報をシーケンス表現に統合する。
• モデルアーキテクチャは、Transformerベースのエンコーダデコーダフレームワークに、グラフアテンションを用いて依存木を処理する構文に敏感なモジュールを組み合わせている。

実験結果

リサーチクエスチョン

• RQ1 依存木からの構文知識は、ニューラル文法的誤り訂正モデルの性能向上に寄与するか？
• RQ2 誤った元文の依存木に起因する構文的誤りは、どのように軽減できるか？ これにより誤った構造的情報を伝搬するのを防げるか？
• RQ3 訂正済み文における関係予測に焦点を当てた専用の依存木訂正タスクは、全体のGEC性能を向上させるか？
• RQ4 大規模事前学習モデルに依存せずに、データ拡張とマルチタスク学習がモデル性能をどの程度向上させ得るか？
• RQ5 依存木訂正タスクの個々のコンponents（例：関係予測、距離予測、先祖-子孫関係予測）は、最終的な訂正精度にどの程度寄与しているか？

主な発見

• 大規模事前学習モデルを使用しないモデルの中で、SG-GECの完全モデルはCoNLL-2014、FCE、BEA-2019ベンチマークで最高のFスコアを達成した。
• アブレーションスタディの結果、構文誘導型エンコーダと依存木訂正タスクの両方がモデル性能を顕著に向上させた。特に後者は精度と再現率の両方を向上させた。
• 依存関係予測サブタスクを削除すると、Fスコアが最大で1.0低下した。これは、このサブタスクが構文モデリングにおいて極めて重要な役割を果たしていることを示している。
• 構文誘導型エンコーダと依存木訂正タスクの両方を備えたモデルが最も高いFスコアを達成し、両者のコンポONENTが相乗効果をもたらすことを示した。
• 事例スタディにより、モデルは構文的依存関係を活用して、主語・動詞一致誤りおよび動詞時制誤りを正しく同定・訂正していることが確認された。
• Copy-Transformerを含む強力なベースラインモデルを上回り、大規模事前学習モデルを用いたモデルと比較しても競争力のある結果を達成した。