[論文レビュー] Transferring Semantic Roles Using Translation and Syntactic Information

Maryam Aminian, Mohammad Sadegh Rasooli+1 more|arXiv (Cornell University)|Oct 3, 2017

Natural Language Processing Techniques参考文献 10被引用数 8

ひとこと要約

この論文は、構文的依存関係の整合性と語のアラインメント密度を用いて、予測されたアノテーションの重みを付けることで、リソース豊富な言語（例：英語）からリソースが乏しい言語（例：ドイツ語）への意味的役割抽出（SRL）の転移を改善するデータ依存型のコストセンシティブな学習手法を提案する。反復的ブートストラップとフルデータ再ラベル付けを統合することで、標準的なアノテーションプロジェクションに比べて、英語→ドイツ語SRL転移で3.5ポイントの絶対Fスコアの向上を達成した。

ABSTRACT

Our paper addresses the problem of annotation projection for semantic role labeling for resource-poor languages using supervised annotations from a resource-rich language through parallel data. We propose a transfer method that employs information from source and target syntactic dependencies as well as word alignment density to improve the quality of an iterative bootstrapping method. Our experiments yield a $3.5$ absolute labeled F-score improvement over a standard annotation projection method.

研究の動機と目的

• 並列データを用いて、リソース豊富な言語（例：英語）からターゲット言語（例：ドイツ語）にSRLアノテーションを転移することで、低リソースSRLの課題に対処する。
• 翻訳のずれ、アラインメントエラー、複数の要因による累積的ノイズといった、標準的なアノテーションプロジェクションの限界を克服する。
• ヒューリスティックなフィルタリングの代わりに、構文的対応とプロジェクションの完全性に基づく学習済みのデータ依存型コスト関数を導入することで、プロジェクション品質を向上させる。
• 未ラベルデータのインクリメンタルラベル付けではなく、全訓練インスタンス（ラベルあり・なしを含む）を反復的に再ラベル付けすることで、モデルの頑健性と性能を向上させる。
• 構文的およびアラインメント信号に基づくプロジェクションの重み付けが、ターゲット言語SRLにおける一般化性能の向上とFスコアの向上に寄与することを示す。

提案手法

• 自動語アラインメントと双方向アラインメントインターセクションを用いて、ソース言語（例：英語）からターゲット言語（例：ドイツ語）にSRLアノテーションをプロジェクションする。
• 低品質な文ペアをフィルタリングするため、プロジェクション密度指標（プロジェクションされた述語数 × アラインされた語数）／（全述語数 × 全語数）を定義する。
• 構文的対応（ソース・ターゲットの依存関係マッチ）と高い完全性を示すインスタンスに高い重みを付ける、データ依存型のコストセンシティブな学習目的関数を導入する。
• 全訓練インスタンス（ラベルあり・なしを含む）を、各エポックで現在のモデルを用いて再ラベル付けする反復的ブートストラップを適用し、一貫性とノイズフィルタリングを向上させる。
• コストセンシティブな目的関数を用いて、平均化されたパーセプトロン分類器で依存関係ベースのSRLシステムを学習し、ノイズの多いプロジェクションデータに対処する。
• 各プロジェクションされた意味的役割の信頼性を評価するために、ソースおよびターゲットの構文的依存関係を併用し、これをコスト関数に反映する。

実験結果

リサーチクエスチョン

• RQ1 ソース言語とターゲット言語間の構文的依存関係の整合性が、低リソースSRL転移におけるプロジェクションされた意味的役割の信頼性を向上させることができるか？
• RQ2 語アラインメント密度と構文的対応性をコストセンシティブな学習目的関数に統合することで、プロジェクションデータ上で学習されたSRLモデルの性能にどのような影響を与えるか？
• RQ3 ノイズの多いプロジェクション環境下で、全データ再ラベル付けを用いた反復的ブートストラップが、未ラベルインスタンスのみをインクリメンタルにラベル付けする手法を上回るか？
• RQ4 手動のヒューリスティクスではなく、データ依存型コスト関数に従ってラベル付けされた部分的プロジェクションデータ上で学習されたモデルが、どの程度高い性能を達成できるか？
• RQ5 異なる意味的役割（例：A0 対 A1）はコストセンシティブな再ラベル付けにどのように反応するか？また、役割間の性能差を説明する要因は何か？

主な発見

• 提案手法は、英語→ドイツ語SRL転移において、標準的なアノテーションプロジェクションに比べて3.5ポイントの絶対的なラベル付きFスコアの向上を達成した。
• コストセンシティブな再ラベル付けは、VERB+A0の依存関係において、精度が向上し、再現率も依存関係マッチ検出の向上により上昇した。
• VERB+A1については、精度が向上したが再現率はわずかに低下した。これは、依存関係マッチ信号がこの役割に対しては効果が薄く、安定的だがマッチ率の低いアラインメントパターンが原因である可能性がある。
• 構文的対応性とアラインメント密度を重み付け信号として用いることで、ノイズの多いプロジェクションの影響が軽減され、モデルの一般化性能が向上した。
• すでにラベル付けされたデータを含む全訓練インスタンスの反復的再ラベル付けは、新しい予測のみを追加する従来の自己学習よりも、収束性と性能が優れていた。
• 外部リソース（例：バイリンガル辞書やルールベースのフィルタリング）に依存する先行手法よりも性能が高く、並列データのみと外部言語学的ツールなしで高い性能を達成した。