[论文解读] A Hierarchical Network for Abstractive Meeting Summarization with Cross-Domain Pretraining

Chenguang Zhu, Ruochen Xu+2 more|arXiv (Cornell University)|Apr 4, 2020

Topic Modeling参考文献 44被引用 8

一句话总结

该论文提出HMNet，一种基于层次化Transformer的模型，用于生成性会议摘要，通过引入说话人角色向量和在新闻摘要数据上的跨领域预训练，以应对数据稀缺和长序列建模的挑战。该模型在ICSI数据集上实现SOTA性能，ROUGE-1指标提升11.62个百分点（从34.66%提升至46.28%）。

ABSTRACT

With the abundance of automatic meeting transcripts, meeting summarization is of great interest to both participants and other parties. Traditional methods of summarizing meetings depend on complex multi-step pipelines that make joint optimization intractable. Meanwhile, there are a handful of deep neural models for text summarization and dialogue systems. However, the semantic structure and styles of meeting transcripts are quite different from articles and conversations. In this paper, we propose a novel abstractive summary network that adapts to the meeting scenario. We design a hierarchical structure to accommodate long meeting transcripts and a role vector to depict the difference among speakers. Furthermore, due to the inadequacy of meeting summary data, we pretrain the model on large-scale news summary data. Empirical results show that our model outperforms previous approaches in both automatic metrics and human evaluation. For example, on ICSI dataset, the ROUGE-1 score increases from 34.66% to 46.28%.

研究动机与目标

• 解决从长时长、多说话人会议转录文本中生成高质量生成式摘要的挑战，此类文本使用传统流水线方法难以有效摘要。
• 通过在大规模新闻摘要数据集上进行预训练，缓解会议摘要标注数据稀缺的问题。
• 通过引入说话人角色信息，捕捉会议中不同参与者的语义风格与视角，提升模型泛化能力与性能。
• 设计层次化架构，有效建模长转录文本中的话语级与会议级语义。
• 构建端到端可训练框架，实现摘要生成各组件的联合优化，克服多阶段、不可微流水线方法的局限性。

提出的方法

• 采用两级层次化Transformer编码器-解码器架构：一级用于单个话语内部的词粒度理解，另一级用于整个会议的发言轮次级理解。
• 引入说话人角色向量——每个说话人对应的可学习嵌入表示——在编码过程中注入，以建模参与者（如项目经理与设计师）之间的不同视角与语义风格。
• 在大规模新闻摘要数据（如CNN/Daily Mail）上进行预训练，以缓解会议摘要任务中的数据稀缺问题，随后在会议数据集上进行微调。
• 在解码器中使用指针-生成网络，平衡词汇的复制与生成，减少OOV（未登录词）问题并提升事实一致性。
• 在词粒度与发言轮次粒度上均应用多头自注意力机制，使解码器在生成摘要时能够以不同粒度关注相关上下文内容。
• 采用标准序列到序列目标函数进行端到端优化，实现编码、注意力与解码组件的联合学习。

实验结果

研究问题

• RQ1 层次化Transformer架构是否能有效建模具有复杂多轮对话的长会议转录文本，同时保持计算可行性？
• RQ2 引入说话人角色向量在多大程度上提升了模型捕捉不同说话人视角的能力，并改善摘要质量？
• RQ3 在新闻摘要数据上进行跨领域预训练，在低资源会议摘要任务中是否显著提升性能？
• RQ4 所提出的端到端框架是否在自动指标与人工评估中均优于现有基于多阶段流水线的方法？
• RQ5 各组件（层次化结构、角色向量、预训练）对整体性能提升的贡献分别是什么？

主要发现

• HMNet在ICSI数据集上取得46.28%的ROUGE-1得分，显著优于此前SOTA的34.66%。
• 模型生成的摘要包含高比例的新型n-gram（如2-gram占比43.2%，3-gram占比22.1%），表明其具备强大的生成能力。
• 人工评估确认，与基线模型相比，HMNet生成的摘要更具流畅性、信息量更丰富且结构更合理。
• 消融实验表明，层次化结构、角色向量与跨领域预训练均对性能提升有显著贡献。
• 模型对转录文本中精确词汇复制的依赖性降低，仅有12.4%的4-gram被逐字复制，表明其具备强大的生成式能力。
• 尽管面临长上下文建模的挑战，HMNet仍能有效捕捉关键决策、核心话题与说话人贡献，避免过度摘要或遗漏关键细节。