[논문 리뷰] Challenges in Building Intelligent Open-domain Dialog Systems

Minlie Huang, Xiaoyan Zhu외 1명|arXiv (Cornell University)|2019. 05. 13.

Topic Modeling참고 문헌 167인용 수 44

한 줄 요약

한 두 문장 직접 답변 요약: 이 설문은 신경 접근법을 중심으로 오픈 도메인 대화 시스템의 의미론, 일관성, 상호 작용성에 집중하며, 이러한 도전 과제를 다루기 위해 검색, 생성 및 하이브리드 방법을 논의합니다.

ABSTRACT

There is a resurgent interest in developing intelligent open-domain dialog systems due to the availability of large amounts of conversational data and the recent progress on neural approaches to conversational AI. Unlike traditional task-oriented bots, an open-domain dialog system aims to establish long-term connections with users by satisfying the human need for communication, affection, and social belonging. This paper reviews the recent works on neural approaches that are devoted to addressing three challenges in developing such systems: semantics, consistency, and interactiveness. Semantics requires a dialog system to not only understand the content of the dialog but also identify user's social needs during the conversation. Consistency requires the system to demonstrate a consistent personality to win users trust and gain their long-term confidence. Interactiveness refers to the system's ability to generate interpersonal responses to achieve particular social goals such as entertainment, conforming, and task completion. The works we select to present here is based on our unique views and are by no means complete. Nevertheless, we hope that the discussion will inspire new research in developing more intelligent dialog systems.

연구 동기 및 목표

• 오픈 도메인 대화의 목표인 장기적 사용자 참여와 사회적 상호작용을 자극한다.
• 의미론, 일관성, 상호 작용성의 세 가지 핵심 도전을 식별하고 명확히 한다.
• 오픈 도메인 대화를 위한 신경 접근법(검색, 생성, 하이브리드)을 비교하고 종합한다.
• 더 자연스러운 상호작용을 위한 실세계 지식과 페르소나에 대한 grounding을 논의한다.
• 향후 연구를 안내하기 위한 평가 방법과 벤치마크를 개요한다.

제안 방법

• 오픈 도메인 대화를 위한 엔드-투-엔드 응답 생성 프레임워크를 설명한다.
• 검색 기반, 생성 기반, 하이브리드 방법을 P( Y | X t, C t )라는 통합 점수 형식으로 특징지운다.
• 검색 기반 응답 순위 결정에서 얕은 상호 작용 네트워크와 깊은 상호 작용 네트워크를 설명한다.
• 주의(attention)와 사전 학습 언어 모델의 역할을 포함한 인코더–디코더 생성 아키텍처를 요약한다.
• 지식 grounding, 페르소나 grounding, 정서 grounding과 같은 grounding 기법을 논의한다.
• 오픈 도메인 대화 모델링에 대한 평가 접근법과 일반적인 벤치마크를 조사한다.

실험 결과

연구 질문

• RQ1 신경식 오픈 도메인 대화 시스템에서의 중심적인 의미론적, 일관성, 상호 작용성 도전은 무엇인가?
• RQ2 검색 기반, 생성 기반, 하이브리드 아키텍처가 이러한 도전들을 어떻게 해결하는가?
• RQ3 콘텐츠의 풍부함과 응답의 대인 관계 품질을 향상시키는 grounding 전략은 무엇인가?
• RQ4 오픈 도메인 대화의 품질과 참여를 가장 잘 포착하는 평가 방법과 벤치마크는 무엇인가?
• RQ5 향후 연구가 오픈 도메인 대화에서 장기적 사용자 참여를 어떻게 향상시킬 수 있는가?

주요 결과

• 신경식 오픈 도메인 대화는 의미론적 문제로 인해 종종 일반적인 응답을 생성하므로 이해 및 grounding을 강화할 방법이 필요하다.
• 검색 기반, 생성 기반, 하이브리드 접근 방식은 각각 강점과 한계가 있으며, 하이브리드는 현실성(réalism)과 새로움 사이의 균형을 제공한다.
• 깊은 상호 작용 네트워크와 Transformer 기반 모델(BERT, GPT variants)은 검색 설정에서 매칭 및 응답 품질을 향상시킨다.
• 페르소나, 지식, 감정에 기반한 grounding은 대화의 일관성과 상호 작용성을 향상시킬 수 있다.
• 사전 학습된 언어 모델과 작업 특화 미세 조정은 최근 대화형 AI 평가 및 챌린지에서 강력한 성과를 이끌어냈다.