[论文解读] Table-to-Text: Describing Table Region with Natural Language

Junwei Bao, Duyu Tang+5 more|arXiv (Cornell University)|May 29, 2018

Handwritten Text Recognition Techniques被引用 14

一句话总结

本文提出 Table2Seq，一种具有灵活复制机制的神经编码器-解码器模型，用于为表格行生成自然语言描述。通过利用表格结构并选择性地从单元格、属性和标题中复制罕见实体和数字，该模型在 WIKIBIO 和 SIMPLEQUESTIONS 上分别将 BLEU-4 分数提升至 40.26 和 39.12，达到当前最先进水平，同时发布了包含 13,318 个标注句子的开放域数据集 WIKITABLETEXT。

ABSTRACT

In this paper, we present a generative model to generate a natural language sentence describing a table region, e.g., a row. The model maps a row from a table to a continuous vector and then generates a natural language sentence by leveraging the semantics of a table. To deal with rare words appearing in a table, we develop a flexible copying mechanism that selectively replicates contents from the table in the output sequence. Extensive experiments demonstrate the accuracy of the model and the power of the copying mechanism. On two synthetic datasets, WIKIBIO and SIMPLEQUESTIONS, our model improves the current state-of-the-art BLEU-4 score from 34.70 to 40.26 and from 33.32 to 39.12, respectively. Furthermore, we introduce an open-domain dataset WIKITABLETEXT including 13,318 explanatory sentences for 4,962 tables. Our model achieves a BLEU-4 score of 38.23, which outperforms template based and language model based approaches.

研究动机与目标

• 为解决生成流畅且相关自然语言句子以描述结构化表格区域（尤其是行）的挑战。
• 通过使用带有注意力机制和结构化表示的编码器-解码器架构，有效建模表格语义。
• 通过允许从源表格单元格和属性中选择性复制，处理表格中常见的罕见词（如命名实体和数字）。
• 发布一个新的开放域数据集 WIKITABLETEXT，包含 4,962 张表格的 13,318 个解释性句子，以支持未来研究。
• 证明复制机制在低资源和罕见词场景下能显著提升生成质量和鲁棒性。

提出的方法

• 该模型采用基于 GRU 的循环网络和注意力机制的编码器-解码器框架，将表格行映射为连续向量表示。
• 编码器通过将属性、单元格和标题编码为联合表示，融入表格结构，保留语义关系。
• 提出一种新颖的复制机制，使解码器能够选择性地直接从表格单元格、属性或标题中复制标记，而非从词汇表生成。
• 复制机制使用门控机制决定是从未 OOV 词汇表生成单词，还是从源表格复制，从而改善对罕见词和未登录词的处理。
• 整个模型通过反向传播和交叉熵损失端到端训练，以优化流畅性和相关性。
• 该模型在三个数据集上进行评估：WIKIBIO、SIMPLEQUESTIONS（合成数据）以及新引入的 WIKITABLETEXT（开放域）。

实验结果

研究问题

• RQ1 带有结构化表格编码的神经序列到序列模型能否生成流畅且相关的表格行自然语言描述？
• RQ2 在处理来自表格的罕见或未登录词时，复制机制在提升生成质量方面的有效性如何？
• RQ3 所提出的模型是否在开放域、真实世界表格到文本生成任务中优于基于模板和语言模型的基线方法？
• RQ4 全局上下文、局部注意力和复制机制等不同组件对整体性能的贡献分别是什么？
• RQ5 该模型在包括传记类和知识库风格表格在内的多样化表格结构和领域中，泛化能力如何？

主要发现

• 在 WIKIBIO 数据集上，所提出的 Table2Seq 模型达到 BLEU-4 得分为 40.26，显著优于之前的 SOTA 指标 34.70。
• 在 SIMPLEQUESTIONS 数据集上，模型达到 BLEU-4 得分为 39.12，超过先前 SOTA 的 33.32。
• 复制机制对性能贡献显著，移除后在 SIMPLEQUESTIONS 上 BLEU-4 下降超过 3 分，在 WIKIBIO 上下降 3.5 分。
• 即使不使用复制机制，该模型仍优于基线模型 Table NLM，表明基于 GRU 的解码器结合注意力机制可带来额外增益。
• 在开放域 WIKITABLETEXT 数据集上，模型达到 BLEU-4 得分为 38.23，远超基于模板和语言模型的方法。
• 消融实验确认，全局注意力和局部注意力组件均至关重要，其中全局上下文的贡献略大于局部上下文。