[논문 리뷰] The Adapter-Bot: All-In-One Controllable Conversational Model

Andrea Madotto, Zhaojiang Lin외 2명|arXiv (Cornell University)|2020. 08. 28.

Topic Modeling인용 수 5

한 줄 요약

Adapter-Bot는 대화 스타일, 지식 기반, 목표 지향적 응답과 같은 대화 기술을 수요에 따라 제어할 수 있는 모듈식이고 제어 가능한 대화 모델을 소개한다. 이 모델은 고정된 백본 언어 모델(예: DialGPT)을 기반으로 하며, 경량의 태스크 전용 어댑터를 통합하여 기술 제어를 가능하게 한다. 각 어댑터는 별도로 훈련되어 기존 백본 모델을 재학습하지 않고도 지속적인 기술 통합이 가능하며, 자동(대화 관리자 기반) 및 수동(사용자 제어) 모드를 모두 지원하여 다양한 대화 작업에서 경쟁적인 성능을 달성하면서도 최소한의 파라미터 업데이트로 구현된다.

ABSTRACT

Considerable progress has been made towards conversational models that generate coherent and fluent responses by training large language models on large dialogue datasets. These models have little or no control of the generated responses and miss two important features: continuous dialogue skills integration and seamlessly leveraging diverse knowledge sources. In this paper, we propose the Adapter-Bot, a dialogue model that uses a fixed backbone conversational model such as DialGPT (Zhang et al., 2019) and triggers on-demand dialogue skills (e.g., emphatic response, weather information, movie recommendation) via different adapters (Houlsby et al., 2019). Each adapter can be trained independently, thus allowing a continual integration of skills without retraining the entire model. Depending on the skills, the model is able to process multiple knowledge types, such as text, tables, and graphs, in a seamless manner. The dialogue skills can be triggered automatically via a dialogue manager, or manually, thus allowing high-level control of the generated responses. At the current stage, we have implemented 12 response styles (e.g., positive, negative etc.), 8 goal-oriented skills (e.g. weather information, movie recommendation, etc.), and personalized and emphatic responses. We evaluate our model using automatic evaluation by comparing it with existing state-of-the-art conversational models, and we have released an interactive system at adapter.bot.ust.hk.

연구 동기 및 목표

• 대규모 대화 모델에서 특정 응답 스타일이나 기술을 선택하는 데 수요에 따른 제어가 부족한 문제를 해결하기 위해.
• 백본 모델을 전체적으로 재튜닝하지 않고도 새로운 대화 기술을 지속적으로 통합할 수 있도록 하기 위해.
• 텍스트, 표, 지식 그래프 등 다양한 지식 소스에 대한 응답의 원천 제공을 원활하게 하기 위해.
• 사용자 지시 또는 시스템 예측 기반의 대화 행동 제어를 위한 자동 및 수동 제어 메커니즘을 제공하기 위해.
• 비생성 기술(예: 사실 확인, QA)을 동일한 통합 아키텍처 내에서 구현할 수 있는 가능성을 입증하기 위해.

제안 방법

• 모델은 주요 생성 엔진으로 고정된 사전 훈련된 대화 백본(예: DialGPT)을 사용한다.
• 각 대화 기술(예: 날씨, 영화 추천, 공감)은 트랜스포머 레이어에 삽입된 경량의 훈련 가능한 어댑터 모듈을 통해 구현된다.
• 어댑터는 태스크 전용 데이터셋을 사용해 별도로 훈련되며, 백본을 재학습하지 않고도 지속적인 기술 추가가 가능하다.
• 자동 모드에서는 대화 기록을 기반으로 적절한 어댑터를 자동으로 선택하는 BERT 기반의 대화 관리자가 훈련된다.
• 수동 제어는 사용자가 특정 기술-ID를 지정하여 특정 어댑터를 활성화할 수 있도록 지원한다.
• 얼굴 및 텍스트 감정 인식, 독성 탐지, 동적 지식 검색(예: 날씨 API, 코로나19 QA) 등 다양한 보조 기능을 통합한다.

실험 결과

연구 질문

• RQ1 고정된 대화 백본에 모듈식 어댑터를 통합하여 재학습 없이 다양한 수요에 따른 대화 기술을 지원할 수 있는가?
• RQ2 어댑터 기반 접근 방식이 다양한 대화 스타일과 지식 유형 간의 응답 유창성과 일관성을 유지하는 데 얼마나 효과적인가?
• RQ3 대화 기록을 기반으로 대화 관리자가 적절한 기술을 정확하게 예측할 수 있는가? 이는 맥락 인식 기반 자동 응답 제어를 가능하게 하는가?
• RQ4 동일한 아키텍처가 생성 기반 기술 외에도 비생성 기술(예: 사실 확인)을 얼마나 잘 지원할 수 있는가?
• RQ5 Adapter-Bot의 성능은 개방형 및 임무 지향 대화 벤치마크에서 최신 기술 모델과 비교해 어떻게 되는가?

주요 결과

• Adapter-Bot는 개방형 작업(예: ED, WoW, Per)에서 BST 및 DDD와 같은 강력한 기준 모델에 비해 1%-3% 이내의 퍼플렉서티를 기록하여 최소한의 파라미터 업데이트로도 뛰어난 유창성을 확보했다.
• 목표 지향적 작업(예: WEA, POI, SCH)에서는 유창성(BLEU) 측면에서 임무 특화 모델과 유사한 성능을 보였으며, F1 측면에선 약간 낮은 성능을 보여, 중간 수준의 성능 희생을 감안한 강력한 일반화 능력을 입증했다.
• BERT 기반의 대화 관리자는 다단계 대화 기록 선택에서 95.35%의 정확도, 단단계 선택에서는 92.92%의 정확도를 기록하여 효과적인 자동 기술 선택이 가능함을 입증했다.
• 어댑터 기반 접근 방식을 통해 22종의 다양한 대화 기술(개인화, 공감, 응답 스타일 제어 포함)을 백본 재학습 없이 지속적으로 통합할 수 있었다.
• Covid-19 QA 및 사실 확인과 같은 비생성 기술이 어댑터 또는 API를 통해 성공적으로 배포되어 아키텍처의 유연성을 입증했다.
• adapterbot.emos.ai의 웹 기반 데모는 감정 인식, 이모티콘 생성, 독성 필터링 등의 기능을 지원하여 실시간 상호작용을 가능하게 하며 사용자 참여도와 안전성을 향상시켰다.