[论文解读] Adversarial Domain Adaptation for Variational Neural Language Generation in Dialogue Systems

Van Khanh Tran, Le-Minh Nguyen|arXiv (Cornell University)|Aug 8, 2018

Topic Modeling参考文献 29被引用 12

一句话总结

本文提出一种带有对抗性域自适应的变分神经语言生成器，以提升低资源目标领域中的少样本对话生成性能。通过在源领域上预训练变分自编码器，并利用两个对抗性判别器——源域判别器和域判别器进行微调，该方法有效实现了从高资源领域到低资源领域的知识迁移，在仅使用有限的领域内数据情况下，取得了当前最优性能，包括在未见的电视领域测试集上达到41.83的BLEU分数和2.38的槽错误率。

ABSTRACT

Domain Adaptation arises when we aim at learning from source domain a model that can per- form acceptably well on a different target domain. It is especially crucial for Natural Language Generation (NLG) in Spoken Dialogue Systems when there are sufficient annotated data in the source domain, but there is a limited labeled data in the target domain. How to effectively utilize as much of existing abilities from source domains is a crucial issue in domain adaptation. In this paper, we propose an adversarial training procedure to train a Variational encoder-decoder based language generator via multiple adaptation steps. In this procedure, a model is first trained on a source domain data and then fine-tuned on a small set of target domain utterances under the guidance of two proposed critics. Experimental results show that the proposed method can effec- tively leverage the existing knowledge in the source domain to adapt to another related domain by using only a small amount of in-domain data.

研究动机与目标

• 解决神经对话系统中标签化目标领域数据稀缺的低资源域自适应挑战。
• 通过利用高资源源领域中的预训练知识，提升零样本和少样本适应性能。
• 开发一种统一的变分域自适应框架，使其能够泛化至多样且未见的目标领域。
• 探究对抗性判别器在引导生成器输出目标域风格话语方面的作用。
• 在多种场景下评估该方法：消融实验、域自适应、从头训练以及无监督自适应。

提出的方法

• 使用变分自编码器（VAE）建模对话行为和话语的潜在空间，实现解耦且连续的表征学习。
• 在拥有丰富标注数据的源领域上对模型进行预训练，以学习通用的语言和结构模式。
• 引入两个对抗性判别器：源域判别器用于保持源域语义，域判别器用于将生成器的输出分布对齐至目标域。
• 在微调过程中，通过平衡重建损失、KL散度以及来自两个判别器的对抗性反馈来优化生成器。
• 对抗性训练过程使生成器能够通过最小化分布偏移来适应目标域，同时保持语义保真度。
• 该框架支持监督与无监督自适应，性能在合成数据集和真实对话数据集上均得到评估。

实验结果

研究问题

• RQ1 仅使用少量领域内数据，变分神经语言生成器能否有效适应新的低资源目标领域？
• RQ2 对抗性判别器在提升域对齐性和减少少样本对话生成中的分布偏移方面有何贡献？
• RQ3 所提出的变分域自适应框架是否在未见领域中优于从零开始训练或标准微调方法？
• RQ4 该模型在语义上与源域相距较远的领域中，其泛化能力如何？
• RQ5 在无任何标注目标数据的情况下，模型能否在无监督域自适应中实现强性能？

主要发现

• VDANLG模型在未见的电视领域测试集上取得了41.83的BLEU分数和2.38的槽错误率（ERR），展现出强大的少样本适应能力。
• 采用对抗性判别器（SC与DC）的模型显著减少了缺失、错位和冗余槽等错误类型，相较于从零开始训练或无判别器的模型表现更优。
• 即使源域（如酒店）与目标域（如电视）在语义上相距较远，模型仍能有效适应，显示出对域偏移的强鲁棒性。
• 消融实验证实，变分生成器与对抗性判别器均对性能至关重要，其中判别器在域对齐中起关键作用。
• 在无监督自适应中，模型仍取得优异性能（BLEU 42.11，ERR 2.74），表明其具备零样本或弱监督部署的潜力。
• 模型生成的语句更加简洁准确，常将槽表示为紧凑短语形式如“SLOT_NAME SLOT_TYPE”，从而提升流畅性与正确性。