[論文レビュー] Table-to-Text: Describing Table Region with Natural Language

Junwei Bao, Duyu Tang+5 more|arXiv (Cornell University)|May 29, 2018

Handwritten Text Recognition Techniques被引用数 14

ひとこと要約

この論文では、表の行に対する自然言語記述を生成するための神経的エンコーダデコーダモデルであるTable2Seqを提案する。構造を活用し、セル、属性、キャプションから希少なエンティティや数値を柔軟にコピーすることで、最先端の性能を達成し、WIKIBIOでは40.26、SIMPLEQUESTIONSでは39.12のBLEU-4スコアを達成した。また、13,318件のアノテート済み文を含むオープンドメインのWIKITABLETEXTデータセットを公開した。

ABSTRACT

In this paper, we present a generative model to generate a natural language sentence describing a table region, e.g., a row. The model maps a row from a table to a continuous vector and then generates a natural language sentence by leveraging the semantics of a table. To deal with rare words appearing in a table, we develop a flexible copying mechanism that selectively replicates contents from the table in the output sequence. Extensive experiments demonstrate the accuracy of the model and the power of the copying mechanism. On two synthetic datasets, WIKIBIO and SIMPLEQUESTIONS, our model improves the current state-of-the-art BLEU-4 score from 34.70 to 40.26 and from 33.32 to 39.12, respectively. Furthermore, we introduce an open-domain dataset WIKITABLETEXT including 13,318 explanatory sentences for 4,962 tables. Our model achieves a BLEU-4 score of 38.23, which outperforms template based and language model based approaches.

研究の動機と目的

• 構造化された表領域、特に表の行を説明する自然で関連性のある文を生成する課題に対処すること。
• アテンションと構造的表現を用いたエンコーダデコーダアーキテクチャにより、表の意味を効果的にモデル化すること。
• 表に一般的に見られる名前付きエンティティや数値といった希少語を、ソースのセルや属性から選択的にコピーできるようにすることで、処理を改善すること。
• 4,962枚の表の説明文13,318件を含む、新しいオープンドメインデータセットWIKITABLETEXTを公開し、今後の研究を支援すること。
• コピー機構が、リソースが限られた状況や希少語の処理において、生成品質と頑健性を著しく向上させることを示すこと。

提案手法

• モデルは、GRUベースの再帰的ネットワークとアテンション機構を用いたエンコーダデコーダフレームワークを採用し、表の行を連続的ベクトル表現にマッピングする。
• エンコーダは、属性、セル、キャプションを統合表現としてエンコードすることで、表の構造を活用し、意味的関係を保持する。
• 新規のコピー機構を導入し、デコーダが語彙から生成する代わりに、ソースの表セル、属性、またはキャプションから直接トークンをコピーできるようにする。
• コピー機構は、語彙から語を生成するか、ソースの表からコピーするかを決定するゲート機構を用いることで、希少語や未知語語彙語の処理を改善する。
• モデル全体は、交差エントロピー損失を用いたバックプロパゲーションにより、一貫性と関連性を最適化するように、エンドツーエンドで学習する。
• モデルは3つのデータセット、すなわちWIKIBIO、SIMPLEQUESTIONS（合成データ）、および新規に導入されたWIKITABLETEXT（オープンドメイン）で評価された。

実験結果

リサーチクエスチョン

• RQ1 構造的表符号化を備えた神経的シーケンスツーサイエンスモデルは、表の行に対して自然で関連性のある記述文を生成できるか？
• RQ2 表からの希少語や未知語彙語を扱う際、コピー機構は生成品質をどの程度向上させるか？
• RQ3 提案されたモデルは、オープンドメインで実世界の表からテキストへの変換において、テンプレートベースおよび言語モデルベースのベースラインを上回るか？
• RQ4 グローバルコンテキスト、ローカルアテンション、コピー機構といった異なる構成要素が、全体の性能にどの程度寄与しているか？
• RQ5 モデルは、伝記的および知識ベース形式の表を含む、多様な表構造やドメインにどの程度一般化できるか？

主な発見

• WIKIBIOデータセットでは、提案されたTable2SeqモデルがBLEU-4スコア40.26を達成し、以前の最先端の34.70を顕著に上回った。
• SIMPLEQUESTIONSデータセットでは、モデルがBLEU-4スコア39.12を達成し、以前のSOTAの33.32を上回った。
• コピー機構は性能向上に大きく寄与しており、SIMPLEQUESTIONSでは3ポイント以上、WIKIBIOでは3.5ポイント以上、BLEU-4スコアが低下する。
• コピー機構を除いたモデルでも、ベースラインのTable NLMを上回ったことから、アテンションを備えたGRUベースのデコーダが追加の利点を提供していることが示された。
• オープンドメインのWIKITABLETEXTデータセットでは、BLEU-4スコア38.23を達成し、テンプレートベースおよび言語モデルベースのアプローチを大きく上回った。
• アブレーションスタディにより、グローバルコンテキストとローカルアテンションの両方が不可欠であることが確認され、グローバルコンテキストの寄与がややローカルコンテキストよりも大きかった。