[論文レビュー] Supervised Syntax-based Alignment between English Sentences and Abstract Meaning Representation Graphs

Chenhui Chu, Sadao Kurohashi|arXiv (Cornell University)|Jun 7, 2016

Natural Language Processing Techniques参考文献 14被引用数 4

ひとこと要約

この論文は、構文解析木を用いてトークンを構文的タグ（例：Sstatement, WHNP）に一般化することで、データスパarsityを軽減する教師あり構文ベースの手法を提案する。この手法は、100組の黄金対応データのみを用いても、非教師ありベースラインより1.7%のFスコア向上を達成し、AMRパーサーの性能を0.4%のSmatch Fスコア向上で向上させる。

ABSTRACT

As alignment links are not given between English sentences and Abstract Meaning Representation (AMR) graphs in the AMR annotation, automatic alignment becomes indispensable for training an AMR parser. Previous studies formalize it as a string-to-string problem and solve it in an unsupervised way, which suffers from data sparseness due to the small size of training data for English-AMR alignment. In this paper, we formalize it as a syntax-based alignment problem and solve it in a supervised manner based on syntax trees, which can address the data sparseness problem by generalizing English-AMR tokens to syntax tags. Experiments verify the effectiveness of the proposed method not only for English-AMR alignment, but also for AMR parsing.

研究の動機と目的

• 限定的な黄金対応訓練データのための英語-AMR対応付けにおけるデータスパarsity問題に対処すること。
• 構文構造を活用することで、英語文とAMRグラフ間の対応付け精度を向上させること。
• より正確な対応付けを通じて、下流のAMRパーサーの性能を向上させること。
• 対応付けタスクを、文字列対文字列の非教師ありタスクではなく、構文ベースの教師あり学習問題として形式化すること。
• 構文ベースの一般化がデータスパarsityを軽減し、対応付けおよびパーサー性能を向上させることを示すこと。

提案手法

• 構文解析木を用いて、英語-AMR対応付けを構文ベースの対応付け問題として形式化する。
• トークンレベルの対応付けを、構文的タグ（例：Sstatement, WHNP）に一般化することで、データスパarsityを低減する。
• 構文的特徴を用いて対応付け意思決定をガイドする教師あり対応付けモデルを、100組の黄金対応英語-AMRペアで学習する。
• 曖昧な対応付け（例：'to' を ':ARG4' ロールにマッピング、'could' を 'possible' 概念にマッピング）を解消するために、構文的情報を活用する。
• 文字列レベルの対応付けに依存しない、判別モデルを用い、構文的および語彙的特徴に基づいて対応付け重みを学習する。
• 対応付け精度の評価と、最先端のAMRパーサーの再訓練に使用することで、Smatch Fスコアを向上させる。

実験結果

リサーチクエスチョン

• RQ1 教師あり構文ベースの対応付けモデルは、英語-AMR対応付けにおいて非教師あり文字列対文字列対応付けを上回ることができるか？
• RQ2 構文的一般化を用いることで、低リソースなAMR対応付けにおけるデータスパarsityはどの程度軽減されるか？
• RQ3 改善された対応付けは、AMRパーサー性能の測定可能な向上をもたらすか？
• RQ4 構文ベースの一般化は、AMRコンセプトと英語トークン間の曖昧な対応付けをどの程度効果的に解消できるか？
• RQ5 わずか100組の黄金対応ペアで学習したモデルは、非教師ありベースラインを著しく上回る性能を達成できるか？

主な発見

• 提案された教師あり構文ベースの手法は、100組の訓練ペアのみを用いても、Pourdamghaniら（2014）の非教師ありベースラインより1.7%の絶対的Fスコア向上を達成した。
• Pustら（2015）のパーサーを再訓練するためにこの手法を用いることで、AMRパーサーの精度が0.4%の絶対的Smatch Fスコア向上を達成した。
• 構文的文脈を活用することで、'to' を ':ARG4' ロールに、'could' を 'possible' 概念にマッピングするなど、曖昧な対応付けを効果的に解消できた。
• 構文的タグ（例：Sstatement, WHNP）の使用により、トークンレベルの対応付けに比べてデータスパarsityが低減され、より良い一般化が可能になった。
• 最小限の監視のもとでも、このモデルはベンチマークAMRデータセット上で、既存の非教師ありおよびルールベースのベースラインを上回った。
• 結果から、構文ベースの一般化が低リソースAMR対応付けに有効であり、下流のパーサー性能向上に活用可能であることが示された。