[論文レビュー] Towards Universal Semantic Tagging

Lasha Abzianidze, Johan Bos|arXiv (Cornell University)|Sep 29, 2017

Natural Language Processing Techniques参考文献 20被引用数 26

ひとこと要約

本稿は、言語に依存しない意味的豊かさを持つタグを語彙的トークンに割り当てることで、多言語間意味解析を向上させる、新しいNLPタスクであるユニバーサル意味的タギング（UST）を紹介する。提案された意味的タグセットは、品詞（POS）タグを超えた細分化された意味的区別、例えば役割、部分的修飾語、否定的修飾語、度合いなどを捉え、Parallel Meaning Bank（PMB）において有効性を示している。ここでは、形式的語彙的意味論の向上と、TnTタガーラーがブートストラップされた銀データ上で学習した上で、ゴールドテストセット（2.4K文、14.6K語彙的トークン）で86.89%のベースライン精度を達成することで、多言語間投影が可能となる。

ABSTRACT

The paper proposes the task of universal semantic tagging---tagging word tokens with language-neutral, semantically informative tags. We argue that the task, with its independent nature, contributes to better semantic analysis for wide-coverage multilingual text. We present the initial version of the semantic tagset and show that (a) the tags provide semantically fine-grained information, and (b) they are suitable for cross-lingual semantic parsing. An application of the semantic tagging in the Parallel Meaning Bank supports both of these points as the tags contribute to formal lexical semantics and their cross-lingual projection. As a part of the application, we annotate a small corpus with the semantic tags and present new baseline result for universal semantic tagging.

研究の動機と目的

• 多言語意味解析のための語彙的意味論を細分化して捉えるために、品詞タグや固有表現分類の不十分さを是正すること。
• 品詞タギングと固有表現認識の意味的利点を統合・一般化し、1つの多言語的タギングフレームワークに統合すること。
• 役割、部分的修飾語、否定的修飾語、度合いなどの意味現象をモデル化できる、簡潔で表現力のある意味的タグセットを開発すること。
• Boxer や Universal Dependencies などの構文的意味論フレームワークにおける、より良い形式的語彙的意味論を実現すること。
• 標準的でユニバーサルなタグセットを通じて、意味情報の多言語間投影を支援し、多言語NLPタスクの改善を図ること。

提案手法

• 各語彙的トークンに言語に依存しない意味的タグ（sem-tag）を割り当てる、新しい系列タギングタスク「ユニバーサル意味的タギング」を提案する。
• ROl（役割）、SST（部分的修飾語）、PRI（否定的修飾語）、DEG（度合い）、NAM（固有表現）などのカテゴリを含む意味的タグセットを設計し、細分化された意味的曖昧解消を可能にする。
• PMBプロジェクトにおいて、形式的構成的意味論と多言語的語彙的意味論の割り当てを支援するためにタグセットを適用する。
• ブートストラップパイプラインを用いる：ニューラル意味的タガーラーの出力（銀データ）でTnTタガーラーを学習し、手動でアノテートされたゴールドデータ（2.4K文、14.6K語彙的トークン）で評価する。
• 語彙的意味論に依存する意味表現の代わりに、一貫性のあるタグベースの形式的意味表現を用いることで、意味解析の改善を図る。
• 意味的タギングタスクが固有表現分類を包含し、言語に依存しない語彙的意味論の一般化を可能にすることを示す。

実験結果

リサーチクエスチョン

• RQ1 意味的タグは、多言語意味解析の文脈で、品詞タグよりも情報量が多く、細分化された語彙的意味論を提供できるか？
• RQ2 意味的タグは、形式的構成的意味論における語彙的意味論の多言語間投影を、どの程度支援できるか？
• RQ3 ユニバーサル意味的タグセットは、品詞タギングと固有表現認識が捉える意味的情報を統合・一般化できるか？
• RQ4 ニューラルタグ付き銀データを用いたブートストラップ学習パイプラインは、TnTベースの意味的タガーラーの学習にどの程度効果的か？
• RQ5 意味的タギングは、多言語環境下でのPOSタギングや依存構文解析といった下流タスクを改善できるか？

主な発見

• 提案された意味的タグセットは、品詞タグを超えた意味的区別、例えば役割（ROL）、部分的修飾語（SST）、否定的修飾語（PRI）、度合い（DEG）を的確に捉えている。
• PMBプロジェクトの事例で示されるように、構成的意味論フレームワークにおけるより正確で一貫性のある形式的語彙的意味論の実現が可能になった。
• ブートストラップされた銀データ上で学習したTnTベースの意味的タガーラーは、ゴールドテストセットで86.89%の精度を達成し、ベースラインの頻度法よりも5%の向上を示した。
• 意味的タギングタスクは固有表現分類を包含しており、タグセットにおけるNAMカテゴリは、標準的なNEクラスよりも広範かつ意味的に情報量が多い。
• 本アプローチは意味情報の多言語間投影を支援し、語彙的意味論に依存する部分を減らすことで、多言語意味解析を可能にした。
• 意味的次元において、標準的な品詞タグセットよりも表現力が高く、活用形に依存しないため、多言語的および構成的意味解析に適している。