[논문 리뷰] Open-Domain Conversational Agents: Current Progress, Open Problems, and Future Directions

Stephen Roller, Y-Lan Boureau외 14명|arXiv (Cornell University)|2020. 06. 22.

Topic Modeling참고 문헌 149인용 수 42

한 줄 요약

이 위치 논문은 오픈 도메인 대화 에이전트를 구축하는 데 필요한 특성, 현재의 진전 및 해결해야 할 문제를 조사하며, 지속 학습, 매력적인 콘텐츠, 잘 작동하는 행동에 중점을 두고, 저자 그룹의 연구에 편향되어 있다.

ABSTRACT

We present our view of what is necessary to build an engaging open-domain conversational agent: covering the qualities of such an agent, the pieces of the puzzle that have been built so far, and the gaping holes we have not filled yet. We present a biased view, focusing on work done by our own group, while citing related work in each area. In particular, we discuss in detail the properties of continual learning, providing engaging content, and being well-behaved -- and how to measure success in providing them. We end with a discussion of our experience and learnings, and our recommendations to the community.

연구 동기 및 목표

• 초인간 오픈 도메인 대화 에이전트의 장기 목표를 정의하고 이를 튜링 스타일의 테스트와 구분한다.
• 인터랙티브한 오픈 도메인 챗봇에 필요한 핵심 특성(지속 학습, 매력적인 콘텐츠, 바람직한 행동)을 식별 및 구분한다.
• 저자 그룹의 엔드투엔드 대화 모델링과 지식 통합에 관한 주요 접근법과 실험을 요약한다.
• 진행 상황 평가 메커니즘과 현장에서 오픈 도메인 에이전트를 배포하는 데 따른 실질적 도전과제를 논의한다.

제안 방법

• 엔드투엔드 대화 모델과 구성요소(메모리, 지식 정착, 생성, 평가)를 최근 연구를 검토하고 종합한다.
• 연속 온라인 학습을 위한 데이터 소스 전략과 정적 벤치마크와 동적 벤치마크의 사용을 설명한다.
• 상호작용에서의 피드백 학습(자체 피드백 및 암시적 품질 신호 포함)과 이들의 강화 학습에 대한 함의를 논의한다.
• 회수 및 동적 소스를 통한 지식 업데이트를 탐구하고 생성 기반과 검색 기반 접근법을 비교한다.

실험 결과

연구 질문

• RQ1 우수한 오픈 도메인 대화 에이전트를 정의하는 특징은 무엇이며 이를 어떻게 측정할 수 있는가?
• RQ2 지속 학습, 지식 업데이트, 장기 대화를 위한 기억의 주요 도전과 격차는 무엇인가?
• RQ3 에이전트가 명시적 감독 등급 없이 상호작용 신호로 대화 품질을 향상시킬 수 있는 방법은 무엇인가?
• RQ4 오픈 도메인 모델이 참여도, 정확성, 안전성을 균형 있게 유지하면서 주제에 대해 최신성을 어떻게 유지해야 하는가?

주요 결과

• 지속 학습은 온라인 학습, 상호작용으로부터의 학습 신호, 동적 지식 업데이트를 필요로 하며 망각 및 데이터 분포 변화 문제를 남겨두고 있다.
• 대화 피드백으로부터의 학습은 성능을 향상시킬 수 있지만 대화 특이 신호와 외부 요인을 구분하는 데 여전히 어려움이 있다.
• 생성 모델은 큰 사전 학습과 디코딩 개선으로 검색 모델을 능가할 수 있지만 일관성 및 다양성의 문제는 여전히 남아 있다.
• 생성 제어(특정성, 반복성, 질문 유도)와 비가능성 학습과 같은 기법은 더 매력적이고 덜 변형적인 출력을 보여주는 데 유망하다.
• 메모리, 추론, 일반상식은 여전히 큰 격차가 남아 있으며 현재 접근은 종종 단기 히스토리와 검색에 의존하고 long-term 통합 지식은 부족하다.