[论文解读] Bootstrapping Lexical Choice via Multiple-Sequence Alignment

Regina Barzilay, Lillian Lee|ArXiv.org|May 25, 2002

Natural Language Processing Techniques参考文献 22被引用 5

一句话总结

本文提出了一种新颖的自举方法，通过生物信息学中的多序列比对（MSA）技术，从多语种语料库中自动获取词汇选择映射。通过比对同一语义输入的多个语言表达，系统识别出一致的结构对应关系，生成高质量的映射词典，其可读性和忠实度经人工评估后与手工构建的系统相当。

ABSTRACT

An important component of any generation system is the mapping dictionary, a lexicon of elementary semantic expressions and corresponding natural language realizations. Typically, labor-intensive knowledge-based methods are used to construct the dictionary. We instead propose to acquire it automatically via a novel multiple-pass algorithm employing multiple-sequence alignment, a technique commonly used in bioinformatics. Crucially, our method leverages latent information contained in multi-parallel corpora -- datasets that supply several verbalizations of the corresponding semantics rather than just one. We used our techniques to generate natural language versions of computer-generated mathematical proofs, with good results on both a per-component and overall-output basis. For example, in evaluations involving a dozen human judges, our system produced output whose readability and faithfulness to the semantic input rivaled that of a traditional generation system.

研究动机与目标

• 减少为自然语言生成系统手工构建映射词典的劳动密集型过程。
• 利用包含同一语义输入的多个语言表达的多语种语料库，提高词汇映射的准确性和表现力。
• 开发一种无需标注训练数据的自动化、数据驱动方法，用于学习语义到词汇的映射。
• 证明基于MSA的技术可生成与传统手工构建系统相当的生成质量。
• 通过最小化人工知识工程，实现生成系统在新领域中的更易适应性。

提出的方法

• 该方法使用多序列比对（MSA）将同一语义输入与多个相同概念的自然语言表达同时对齐。
• 构建一种类似晶格的结构（称为“香肠图”），以捕捉多个表达之间的共同结构特征，突出显示参数-值匹配。
• 对齐过程可识别语义成分与语言短语之间的对应关系，即使单个表达在结构或内容上存在差异。
• 该方法将一组表达视为潜在语言变异的集合，从而减少个体表达特异性的噪声。
• 采用一种新颖的对齐步骤组合，以处理数学证明等正式领域中复杂的非线性对应关系。
• 最终生成的晶格结构作为表面实现器的输入，支持多样化且忠实的自然语言输出。

实验结果

研究问题

• RQ1 多序列比对能否有效从未对齐的多语种语料库中恢复语义到词汇的对应关系？
• RQ2 与单语种对齐方法相比，利用每个语义输入的多个表达是否能提升学习到的词汇映射的质量和鲁棒性？
• RQ3 基于MSA的方法能否生成与手工构建系统在可读性和忠实度方面相当或更优的生成输出？
• RQ4 该系统在正式领域中如何处理语言变异（如参数省略或改写）？
• RQ5 该方法在多大程度上能减少为新领域构建映射词典所需的人工投入？

主要发现

• 在人工评估中，超过一半的评委在超过一半的词素上更偏好该系统生成的输出，而非传统手工构建系统。
• 评委认为该系统的输出在可读性和对语义输入的忠实度方面与传统生成系统相当，感知质量无显著差异。
• 该系统生成的20篇证明全部被领域专家判定为正确，而传统系统仅17篇正确。
• 多序列比对方法成功识别出语义输入与语言表达之间的结构对应关系，即使单个表达省略或改写输入的某些部分。
• 该方法通过从多个表达中提取一致模式，对语言变异（如改写和参数省略）表现出鲁棒性。
• 该方法优于IBM风格对齐模型的黑箱应用，表明所提出的多步对齐组合是必要的。