[論文レビュー] Table-to-text Generation by Structure-aware Seq2seq Learning

Tianyu Liu, Kexiang Wang+3 more|arXiv (Cornell University)|Nov 27, 2017

Topic Modeling参考文献 19被引用数 40

ひとこと要約

本論文は、分野ゲーティングLSTMエンコーダーと二重アテンションメカニズム（単語レベルおよび分野レベル）を用いて、コンテンツおよび構造的符号化を向上させる構造に配慮したseq2seqモデルを提案する。このモデルは、WIKIBIOデータセットにおいて最先端の性能を達成し、自動評価でベースラインを著しく上回り、局所的およびグローバルなテーブルコンテンツのアドレス指定を効果的に行うことで、より一貫性があり情報豊富な記述を生成する。

ABSTRACT

Table-to-text generation aims to generate a description for a factual table which can be viewed as a set of field-value records. To encode both the content and the structure of a table, we propose a novel structure-aware seq2seq architecture which consists of field-gating encoder and description generator with dual attention. In the encoding phase, we update the cell memory of the LSTM unit by a field gate and its corresponding field value in order to incorporate field information into table representation. In the decoding phase, dual attention mechanism which contains word level attention and field level attention is proposed to model the semantic relevance between the generated description and the table. We conduct experiments on the exttt{WIKIBIO} dataset which contains over 700k biographies and corresponding infoboxes from Wikipedia. The attention visualizations and case studies show that our model is capable of generating coherent and informative descriptions based on the comprehensive understanding of both the content and the structure of a table. Automatic evaluations also show our model outperforms the baselines by a great margin. Code for this work is available on https://github.com/tyliupku/wiki2bio.

研究の動機と目的

• 複雑で非一様なスキーマを持つ構造化テーブルから一貫性があり情報豊かな自然言語記述を生成する課題に対処すること。
• コンテンツ（分野-値ペア）と構造的情報（レコードの順序、分野の重要性）を同時にモデル化することで、テーブルtoテキスト生成を改善すること。
• 固定スキーマやone-hot表現に依存する従来のモデルの限界を克服し、長距離依存関係や構造的ニュアンスを捉えられないこと。
• 局所的アドレス指定（生成中に特定の単語に注目すること）に加え、効果的なグローバルアドレス指定（どのテーブルレコードを強調するかを選択すること）を可能にすること。
• テーブルレコードの順序が入れ替えられた場合でも性能を維持できることを示し、テーブルtoテキスト生成における構造的配慮の必要性を裏付けること。

提案手法

• 分野埋め込みをセル状態に統合する分野ゲーティング機構をLSTMエンコーダーに導入し、テーブル分野の構造的表現を可能にする。
• デコーダーで二重アテンションメカニズムを採用：単語レベルアテンションは特定のコンテンツトークンとの局所的アライメントを、分野レベルアテンションはテーブル分野とのグローバルアライメントを実現する。
• LSTMユニットを用いたエンコーダ-デコーダー枠組みを採用し、エンコーダーは分野に配慮したゲーティングを用いて分野-値レコードを処理する。
• コンテンツ符号化と単語レベルアテンションを用いて、生成中に関連する単語に注目する局所的アドレス指定を実装する。
• 分野符号化と分野レベルアテンションを用いて、記述で優先すべきテーブルレコードを決定するグローバルアドレス指定を実装する。
• 70万件を超えるWikipediaの伝記と関連するインフォボックスを含むWIKIBIOデータセット上で、エンドツーエンドに訓練する。

実験結果

リサーチクエスチョン

• RQ1 seq2seqモデルは、事実のテーブルのコンテンツと構造的レイアウトを効果的に符号化し、テキスト生成を改善できるか？
• RQ2 LSTMセル状態に分野レベルの情報を組み込むことで、生成された記述の品質にどのような影響を与えるか？
• RQ3 二重アテンション（単語レベルおよび分野レベル）を導入することで、生成されたテキストとテーブルコンテンツとのアライメントがどの程度向上するか？
• RQ4 モデルは、レコードの順序が入れ替えられたテーブルに対しても一般化できるか？これは、強力なグローバルアドレス指定能力を示唆する。
• RQ5 自動評価および定性的評価指標において、強力なベースラインと比較して、モデルはどの程度優れているか？

主な発見

• 構造に配慮したseq2seqモデルは、WIKIBIOテストセットでBLEUスコア44.28、ROUGEスコア40.79を達成し、ヴァナイルseq2seq（BLEU 40.04、ROUGE 36.85）および分野と位置特徴を備えたモデル（BLEU 42.10、ROUGE 38.97）を著しく上回る。
• ランダムにシャッフルされたレコードを含む不規則なテーブルにおいて、モデルの性能低下は最小限（BLEUスコア低下0.61）に抑えられ、ベースラインと比較して顕著に優れたグローバルアドレス指定能力を示している。
• 事例研究では、モデルが複数の分野（例：ポジション、デビュー日、チーム）を包括的にカバーした記述を生成する一方で、ベースラインモデルはしばしば重要な情報を漏れたり、言及されていない詳細を捏造したりする。
• アテンション可視化の結果、二重アテンションメカニズムが生成されたトークンが関連するテーブル分野およびコンテンツと効果的にアライメントしていることが確認され、局所的およびグローバルなアドレス指定が成功していることが示された。
• モデルは、誤ったまたは根拠のない詳細（例：「メジャーリーグベースボール」）を追加せずに、選手のチームや期間を正確に特定する、より正確で情報豊富な記述を生成する。