[논문 리뷰] A Unified Multi-task Learning Framework for Multi-goal Conversational Recommender Systems

Yang Deng, Wenxuan Zhang외 4명|arXiv (Cornell University)|2022. 04. 14.

Recommender Systems and Techniques인용 수 9

한 줄 요약

이 논문은 프롬프트 기반 학습을 사용하여 목표 계획, 주제 예측, 항목 추천, 응답 생성을 하나의 시퀀스 투 시퀀스 프레임워크로 통합하는 통합 다중 작업 학습 프레임워크 UniMIND를 제안한다. UniMIND는 DuRecDial과 TG-ReDial 벤치마크에서 네 가지 작업 전반에 걸쳐 최신 기술 성능을 달성하여 다목적 대화형 추천 시스템에서 공동 모델링과 엔드 투 엔드 훈련의 효과성을 입증한다.

ABSTRACT

Recent years witnessed several advances in developing multi-goal conversational recommender systems (MG-CRS) that can proactively attract users' interests and naturally lead user-engaged dialogues with multiple conversational goals and diverse topics. Four tasks are often involved in MG-CRS, including Goal Planning, Topic Prediction, Item Recommendation, and Response Generation. Most existing studies address only some of these tasks. To handle the whole problem of MG-CRS, modularized frameworks are adopted where each task is tackled independently without considering their interdependencies. In this work, we propose a novel Unified MultI-goal conversational recommeNDer system, namely UniMIND. In specific, we unify these four tasks with different formulations into the same sequence-to-sequence (Seq2Seq) paradigm. Prompt-based learning strategies are investigated to endow the unified model with the capability of multi-task learning. Finally, the overall learning and inference procedure consists of three stages, including multi-task learning, prompt-based tuning, and inference. Experimental results on two MG-CRS benchmarks (DuRecDial and TG-ReDial) show that UniMIND achieves state-of-the-art performance on all tasks with a unified model. Extensive analyses and discussions are provided for shedding some new perspectives for MG-CRS.

연구 동기 및 목표

• 모듈러화된, 작업별로 특화된 모델의 한계를 해결하기 위해, 다목적 대화형 추천 시스템(MG-CRS)에서 상호작용 작업 간 의존성을 모델링하지 못하고 수동으로 작업 조율가 필요로 하는 문제를 해결하고자 한다.
• 목표 계획, 주제 예측, 항목 추천, 응답 생성이라는 네 가지 핵심 MG-CRS 작업을 하나의 종단 간 시퀀스 투 시퀀스 학습 프레임워크로 통합하고자 한다.
• 사전 정의된 목표 순서나 주제 스트림에 의존하지 않고, 다양한 대화 유형(예: 경청 대화, 질의응답, 추천) 간 공동 학습과 추론을 가능하게 하고자 한다.
• 다양한 작업 형식(분류, 순위 매기기, 생성)을 통합된 프레임워크 아래에서 일치시키는 데 있어 프롬프트 기반 학습의 타당성과 효과성을 탐구하고자 한다.

제안 방법

• UniMIND는 네 가지 MG-CRS 작업을 모두 통합된 시퀀스 투 시퀀스(Seq2Seq) 생성 프레임워크로 재구성하여, 각 작업을 텍스트 투 텍스트 예측 문제로 표현한다.
• 작업별 프롬프트 템플릿을 사용하여 모델이 다양한 작업에 대해 출력을 생성하도록 유도하는 프롬프트 기반 학습 전략을 적용하여, 하나의 모델 내에서 다중 작업 학습을 가능하게 한다.
• 훈련 파이프라인은 세 단계로 구성되며, 다중 작업 사전 훈련, 프롬프트 기반 미세조정, 추론 단계를 포함하며, 모든 작업 간 공유된 파라미터를 사용한다.
• 모델은 사전 훈련된 언어 모델(예: BART)을 백본으로 사용하고, 작업별 프롬프트 임베딩을 통합하여 생성 과정을 조절한다.
• 공유된 표현과 공동 최적화를 통해 상호작용 작업 간 의존성이 암묵적으로 포착되며, 계단식 아키텍처에 비해 오류 전파가 감소한다.
• 다른 프롬프트 템플릿을 사용하여 동일한 모델을 재사용함으로써, 새로운 작업이나 자원이 제한된 환경에서의 제로샷 및 피셔샷 적응이 가능하다.

실험 결과

연구 질문

• RQ1 통합된 시퀀스 투 시퀀스 프레임워크는 다목적 대화형 추천 시스템의 네 가지 상호의존적 작업을 효과적으로 모델링할 수 있는가?
• RQ2 프롬프트 기반 학습은 분류, 순위 매기기, 생성 등 이질적인 작업 유형 간 다중 작업 학습을 하나의 모델에서 어떻게 가능하게 하는가?
• RQ3 공동 학습이 독립적 또는 모듈러화된 접근 방식에 비해 네 가지 작업 전반에 걸쳐 성능 향상에 얼마나 기여하는가?
• RQ4 실제 대화에서 사전 정의된 목표 순서나 주제 스트림이 없는 상황에서 통합 프레임워크는 어떻게 대응하는가?
• RQ5 이러한 통합 접근 방식의 실패 모드와 한계는 무엇인가, 특히 오류 전파와 추천 희소성 문제에 대해 어떻게 평가할 수 있는가?

주요 결과

• UniMIND는 두 가지 주요 MG-CRS 벤치마크인 DuRecDial과 TG-ReDial에서 목표 계획, 주제 예측, 항목 추천, 응답 생성의 네 가지 작업 전반에 걸쳐 최신 기술 성능을 달성한다.
• TG-ReDial 데이터셋에서 UniMIND는 주제 예측에 대해 정확 일치(Exact Match) 점수 87.20%, 항목 추천에 대해 80.17%, 응답 생성에 대해 15.44%를 기록하여 순차적 작업에서의 높은 오류 전파에도 불구하고 강력한 성능을 보였다.
• DuRecDial 데이터셋에서는 주제 예측에 92.32%, 항목 추천에 89.16%를 기록하여 이 벤치마크에서 더 나은 일반화 능력과 강건성을 보였다.
• 사례 연구 결과, UniMIND는 유사한 기반 모델인 Union과 BART에 비해 경청 대화나 다중 주제 상황에서 더 맥락에 부합하고 목표에 적합한 응답을 생성하는 것으로 나타났다.
• 오류 분석 결과, 추천 성능는 사용자-항목 상호작용의 희소성에 의해 제한되며, 오픈 도메인 대화 데이터로의 후처리 훈련을 통해 응답의 정보성 향상을 기대할 수 있다.
• 프롬프트 엔지니어링을 통한 제로샷 및 피셔샷 적응 가능성을 보여주어, 자원이 제한된 환경로의 확장성 잠재력을 보였다.