[论文解读] The Adapter-Bot: All-In-One Controllable Conversational Model

Andrea Madotto, Zhaojiang Lin+2 more|arXiv (Cornell University)|Aug 28, 2020

Topic Modeling被引用 5

一句话总结

Adapter-Bot 引入了一种模块化、可控制的对话模型，该模型使用固定的主干语言模型（如 DialGPT）并辅以轻量级、任务特定的适配器，实现对对话技能（如响应风格、知识对齐和目标导向响应）的按需控制。每个适配器独立训练，支持持续集成新技能而不会发生灾难性遗忘，且系统同时支持由对话管理器驱动的自动模式和用户控制的手动模式，在各类对话任务中实现了具有竞争力的性能，且参数更新极少。

ABSTRACT

Considerable progress has been made towards conversational models that generate coherent and fluent responses by training large language models on large dialogue datasets. These models have little or no control of the generated responses and miss two important features: continuous dialogue skills integration and seamlessly leveraging diverse knowledge sources. In this paper, we propose the Adapter-Bot, a dialogue model that uses a fixed backbone conversational model such as DialGPT (Zhang et al., 2019) and triggers on-demand dialogue skills (e.g., emphatic response, weather information, movie recommendation) via different adapters (Houlsby et al., 2019). Each adapter can be trained independently, thus allowing a continual integration of skills without retraining the entire model. Depending on the skills, the model is able to process multiple knowledge types, such as text, tables, and graphs, in a seamless manner. The dialogue skills can be triggered automatically via a dialogue manager, or manually, thus allowing high-level control of the generated responses. At the current stage, we have implemented 12 response styles (e.g., positive, negative etc.), 8 goal-oriented skills (e.g. weather information, movie recommendation, etc.), and personalized and emphatic responses. We evaluate our model using automatic evaluation by comparing it with existing state-of-the-art conversational models, and we have released an interactive system at adapter.bot.ust.hk.

研究动机与目标

• 为解决大型对话模型中缺乏按需控制的问题，特别是选择特定响应风格或技能的问题。
• 实现在不发生灾难性遗忘或对主干模型进行完整微调的情况下，持续集成新对话技能。
• 支持在包括文本、表格和知识图谱在内的多种知识源中无缝对齐响应。
• 提供自动和手动控制机制，以实现用户导向或系统预测的对话行为。
• 证明在统一框架内部署非生成式技能（如事实核查、问答）的可行性。

提出的方法

• 该模型使用固定的预训练对话主干模型（如 DialGPT）作为主要生成引擎。
• 每种对话技能（如天气、电影推荐、共情）通过插入 Transformer 层中的轻量级可训练适配器模块实现。
• 适配器使用特定任务的数据集独立训练，从而在不重新训练主干模型的情况下实现持续的技能添加。
• 基于 BERT 的对话管理器被训练以根据对话历史在自动模式下自动选择合适的适配器。
• 手动控制通过允许用户指定技能-ID 来触发特定适配器实现。
• 系统集成了多种辅助功能，包括面部和文本情绪识别、毒性检测以及动态知识检索（如天气 API、Covid-19 问答）。

实验结果

研究问题

• RQ1 能否通过模块化适配器扩展固定对话主干模型，以在不发生灾难性遗忘的情况下支持多样化的按需对话技能？
• RQ2 基于适配器的方法在多种对话风格和知识类型下，对保持响应流畅性和连贯性有多有效？
• RQ3 对话管理器能否基于对话历史准确预测合适的技能，从而实现实时上下文感知的自动响应控制？
• RQ4 该统一架构在多大程度上能够同时支持生成式和非生成式技能（如事实核查）？
• RQ5 Adapter-Bot 在开放域和任务导向型对话基准测试中的性能与最先进模型相比如何？

主要发现

• Adapter-Bot 在开放域任务（如 ED、WoW、Per）上的困惑度与强基线模型（如 BST 和 DDD）相比仅低 1%-3%，表明在极少参数更新下仍保持了出色的流畅性。
• 在目标导向型任务（如 WEA、POI、SCH）中，该模型在流畅性（BLEU）方面与专用模型表现相当，在 F1 指标上略低，表明在适度性能权衡下具备强大的泛化能力。
• 基于 BERT 的对话管理器在多轮对话历史选择中的准确率达到 95.35%，在单轮对话中达到 92.92%，表明其具备高效的自动技能选择能力。
• 基于适配器的方法实现了 22 种不同对话技能（包括个性化、共情和响应风格控制）的持续集成，且无需重新训练主干模型。
• 系统成功通过适配器或 API 部署了非生成式技能（如 Covid-19 问答和事实核查），证明了架构的灵活性。
• 位于 adapterbot.emos.ai 的基于网页的演示支持实时交互，具备情绪识别、表情符号生成和毒性过滤等功能，显著提升了用户参与度和安全性。