[論文レビュー] Generic Axiomatization of Families of Noncrossing Graphs in Dependency Parsing

Anssi Yli-Jyrä, Carlos Gómez‐Rodríguez|arXiv (Cornell University)|Jun 11, 2017

Natural Language Processing Techniques参考文献 39被引用数 13

ひとこと要約

本論文は、Dyck言語に基づく潜在的符号化を用いて、自然言語解析における非交差依存グラフの族を一般化・文脈自由に表現するフレームワークを提示する。グラフは括弧構造で符号化され、族は禁止された局所的パターンによって定義される。これにより、語彙的特徴と文法的制約によって探索空間を制御することで、木構造、DAG、弱連結グラフなど多様なグラフタイプを1つの推論アルゴリズムで処理可能となる。

ABSTRACT

We present a simple encoding for unlabeled noncrossing graphs and show how its latent counterpart helps us to represent several families of directed and undirected graphs used in syntactic and semantic parsing of natural language as context-free languages. The families are separated purely on the basis of forbidden patterns in latent encoding, eliminating the need to differentiate the families of non-crossing graphs in inference algorithms: one algorithm works for all when the search space can be controlled in parser input.

研究の動機と目的

• 依存解析で用いられる多様な非交差有向グラフ族を、一様で文脈自由な表現で表すこと。
• 各グラフ族ごとに別個の推論アルゴリズムを必要としないため、潜在的表現における禁止パターンを通じて違いを符号化すること。
• 探索空間の制約を僅かに変更するだけで、同じアルゴリズムが複数のグラフ族に適用可能となる、汎用的解析を可能とすること。
• 非交差有向グラフ族（例：出木、DAG、弱連結グラフ、有向森）が、言語の共通部分集合に関して半ラティスを形成し、かつすべて文脈自由であることを示すこと。
• 語彙的制約を用いて、各語が参加可能なグラフ構造に制限を加えることで、語彙化された解析を可能とすること。

提案手法

• 位置インデックス付きの弧を表すために、Dyck言語 D55 を用いた括弧ベースの線形符号化により、非交差有向グラフを表現する。
• 局所的パターンの禁止を通じてグラフの性質を捉える、潜在的で非導出可能な同型写像表現を導入する。
• 有限状態オートマトンを用いて言語表現の正則的部分をモデル化し、効率的な解析と制約の強制を可能にする。
• 禁止パターン制約から導かれる文脈自由言語の共通部分集合として、有向グラフ族を定義する。
• 制約付き探索空間上で効率的な推論を実現するため、重み付き文脈自由文法を用いた動的計画法を適用する。
• 有限状態ツールキットとグラフ列挙器を用いて、公理の妥当性を検証し、制約付き探索空間の成長をサンプリングする。

実験結果

リサーチクエスチョン

• RQ1 依存解析における非交差有向グラフ族は、一様に文脈自由言語として表現可能か？
• RQ2 異なるグラフ族（例：木構造、DAG、弱連結グラフ）を、潜在的符号化における禁止局所パターンのみで区別可能か？
• RQ3 探索空間の制約を僅かに変更するだけで、複数のグラフ族に適用可能な1つの推論アルゴリズムを設計可能か？
• RQ4 得られる有向グラフ族は、言語の共通部分集合に関して半ラティスとして特徴付け可能か？ また、すべてが文脈自由であるか？
• RQ5 語彙的特徴を用いて、統一的な解析フレームワーク内で、異なるグラフタイプの探索空間をどの程度制御可能か？

主な発見

• すべての非交差有向グラフの集合は、位置インデックス付きの括弧を用いたDyck言語 D55 を用いて文脈自由言語として表現可能である。
• 本研究で検討された非交差有向グラフ族（出木、DAG、弱連結有向グラフ、有向森など）はすべて文脈自由であり、共通部分集合に関して半ラティスを形成する。
• 本フレームワークにより、言語表現の正則的部分を変更するだけで、1つのアルゴリズムがすべての族を処理可能な汎用的解析が可能となる。
• 本手法は語彙化された解析をサポートしており、各語が局所的パターン制限を通じて許可される構造的役割を制限できる。
• 有限状態ツールとグラフ列挙を用いた検証により、制約付き族の成長が少なくとも12種の既知の整数列と一致することが確認された。
• 本フレームワークは既存のパーサーを一般化し、潜在的Dyck表現上の重み付きCFGを用いた効率的な動的計画法による推論を可能にする。