[論文レビュー] Coarse-to-Fine Decoding for Neural Semantic Parsing

Li Dong, Mirella Lapata|arXiv (Cornell University)|May 12, 2018

Topic Modeling参考文献 26被引用数 42

ひとこと要約

本論文はニューラル意味解析の粗密二段階デコーディングフレームワークを提案する。まずコンパクトな意味スケッチを生成し、次にスケッチと入力に条件付けて詳細なトークンを埋める。

ABSTRACT

Semantic parsing aims at mapping natural language utterances into structured meaning representations. In this work, we propose a structure-aware neural architecture which decomposes the semantic parsing process into two stages. Given an input utterance, we first generate a rough sketch of its meaning, where low-level information (such as variable names and arguments) is glossed over. Then, we fill in missing details by taking into account the natural language input and the sketch itself. Experimental results on four datasets characteristic of different domains and meaning representations show that our approach consistently improves performance, achieving competitive results despite the use of relatively simple decoders.

研究の動機と目的

• 構造化された意味表現を用いて意味解析を動機づけ、デコoding時に高レベル情報と低レベル情報を分離する。
• 最終デコーディングを導くスケッチベースの中間表現を導入する。
• 粗いスケッチの活用が、多様なドメインと表現にわたって解析精度を向上させることを示す。
• 4つのデータセットにおいて、比較的単純なデコーダで競争力のある性能を示す。

提案手法

• 双方向LSTMエンコーダを用いて自然言語入力をエンコードし、注意機構付きデコーダを用いてcoarse meaning sketch a|xを生成する。
• スケッチを双方向LSTMでエンコードし、それを用いて最終意味yの欠落した詳細を埋める高精度デコーダを導く。
• 生成を p(a|x) と p(y|x,a) に因数分解し、 log p(y|x,a) + log p(a|x) を最大化するように訓練する。
• Djangoタスクでは、fine decoding中にxからコピーしてOOVトークンに対処するコピー機構を組み込む。
• WikiSQLでは、テーブル列にアテンションするテーブル対応エンコーダを用い、WHERE節のスケッチを予測し、次に質問からコピーされたテキストスパンで条件値を埋める。
• デコーディング時に親フィードを活用し、予測したスケッチで出力を制約して構造忠実度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 二段階の粗密デコードプロセスは、一段階 decoding よりニューラル意味解析の性能を向上させるか。
• RQ2 コンパクトで抽象的なスケッチ表現は、さまざまな意味表現（ロジック形式、コード、SQL）に対して最終的な詳細デコードを効果的に導くことができるか。
• RQ3 複数のドメインにわたる最終意味精度には、スケッチの精度がどの程度影響するか。
• RQ4 テーブル対応エンコードとコピー機構は、SQLとコード生成タスクの性能にどう寄与するか。

主な発見

• Coarse2FineはGeoおよびAtisデータセットでOneStageを上回る（Geo: 88.2 vs 85.0; Atis: 87.7 vs 85.3）。
• Oracleスケッチを提供すると大幅な改善をもたらす（Geo 93.9; Atis 95.1）。
• DjangoではCoarse2Fineが74.1%の精度を達成し、従来の最良結果およびOneStageのベースラインを上回った。
• WikiSQLではCoarse2FineがOneStageおよび従来システムを上回り、71.7%の精度と78.5%の実行精度を達成; WHERE句の利益はスケッチ誘導デコードが最も寄与。
• スケッチ精度はGeo、Atis、Django、WikiSQLのすべてでCoarse2FineのほうがOneStageより高い（Geo 89.3; Atis 88.0; Django 77.4; WikiSQL 95.9）。
• このフレームワークは、ドメイン（論理形式、Pythonコード、SQL）と意味にわたって多用途で、比較的単純なデコーダで競争力のある結果を達成する。