[논문 리뷰] Planning for Goal-Oriented Dialogue Systems

Christian Muise, Tathagata Chakraborti외 7명|arXiv (Cornell University)|2019. 10. 17.

Multi-Agent Systems and Negotiation참고 문헌 30인용 수 17

한 줄 요약

이 논문은 고수준 사양을 실행 가능한 계획으로 컴파일하여 복잡한 다단계 대화 에이전트를 자동으로 생성함으로써 수동으로 대화 트리 작성을 제거함으로써 목표 지향 대화 시스템을 위한 선언적 계획 프레임워크를 제안한다. 이 방법은 최신 계획 기술을 활용하여 종단 간 지원이 가능한 확장 가능하고 검증 가능한 대화 흐름을 합성한다.

ABSTRACT

Generating complex multi-turn goal-oriented dialogue agents is a difficult problem that has seen a considerable focus from many leaders in the tech industry, including IBM, Google, Amazon, and Microsoft. This is in large part due to the rapidly growing market demand for dialogue agents capable of goal-oriented behaviour. Due to the business process nature of these conversations, end-to-end machine learning systems are generally not a viable option, as the generated dialogue agents must be deployable and verifiable on behalf of the businesses authoring them. In this work, we propose a paradigm shift in the creation of goal-oriented complex dialogue systems that dramatically eliminates the need for a designer to manually specify a dialogue tree, which nearly all current systems have to resort to when the interaction pattern falls outside standard patterns such as slot filling. We propose a declarative representation of the dialogue agent to be processed by state-of-the-art planning technology. Our proposed approach covers all aspects of the process; from model solicitation to the execution of the generated plans/dialogue agents. Along the way, we introduce novel planning encodings for declarative dialogue synthesis, a variety of interfaces for working with the specification as a dialogue architect, and a robust executor for generalized contingent plans. We have created prototype implementations of all components, and in this paper, we further demonstrate the resulting system empirically.

연구 동기 및 목표

• 기업용 대화 시스템에서 복잡한 대화 트리 수동 작성 방식이 겪는 확장성 및 유지보수 문제를 해결한다.
• 해석 가능성, 검증 가능성, 신뢰할 수 있는 훈련 데이터 부족으로 인해 한계가 있는 종단 간 학습 접근 방식의 한계를 극복한다.
• 전문가가 아닌 대화 설계자가 낮은 수준의 상태 전이 대신 고수준 목표와 능력으로 에이전트를 선언적으로 지정할 수 있도록 한다.
• 도메인 사양에서 실행 가능한 대화 에이전트에 이르는 통합적이고 확장 가능한 파이프라인을 제공하며, 공식적 검증 및 디버깅 지원을 포함한다.
• 설계자가 정확하고 완전한 대화 모델을 작성하는 데 도움이 되는 새로운 계획 인코딩 및 상호작용 도구(예: 메타라이터, CDD 모드)를 도입한다.

제안 방법

• 행동, 전제 조건, 영향, 결과를 포함한 선언적 도메인 기술 언어(D3WA)를 사용하여 상태 그래프를 명시적으로 기술하지 않고도 대화 에이전트를 기술한다.
• 표준 계획 인코딩을 사용하여 D3WA 사양을 고전적 계획 문제로 컴파일함으로써 Fast Downward와 같은 표준 계획기 사용이 가능하도록 한다.
• 대화 로그에서 사전 훈련된 seq-to-seq 모델을 사용하여 후보 행동과 발화를 추출하는 의미 해석 모듈을 통합한다.
• 설계자가 목표만 지정하면 되는 제약 기반 대화(CDD) 모드를 구현하여 계획기가 모든 중간 행동을 자동으로 합성하도록 한다.
• 설계 과정을 메타계획 문제로 모델링하여 부족하거나 해결 불가능한 사양을 탐지하고 수정 조치를 제안하는 Meta-Writer 보조 기능을 개발한다.
• 일반화된 조건부 계획을 지원하는 시각적 인터페이스 및 실행 엔진을 구축하여 동적이고 맥락 민감한 대화의 강력한 실행을 가능하게 한다.

실험 결과

연구 질문

• RQ1 기존 대화 트리 방법 대비 선언적 계획 프레임워크가 복잡한 다단계 목표 지향 대화 에이전트를 수작업으로 작성하는 데 소요되는 노력의 상당한 감소를 이끌 수 있는가?
• RQ2 자동 계획 기술이 명시적인 상태공간 열거 없이도 고수준 도메인 사양에서 검증 가능하고 행동적으로 올바른 대화 흐름을 생성할 수 있는 정도는 어느 정도인가?
• RQ3 Meta-Writer 보조 기능이 설계 과정에서 부족하거나 해결 불가능한 대화 사양을 탐지하고 수정을 안내하는 데 얼마나 효과적인가?
• RQ4 제약 기반 대화 사양(CDD) 모드가 설계 과정을 단순화하면서도 표현력을 유지하는 데 사용 가능한 고수준 추상화를 제공할 수 있는가?
• RQ5 작은 선언적 사양에서 계획을 생성할 때, 대화 복잡성(예: 노드 수, 간선 수) 측면에서 이 시스템의 확장성은 어느 정도인가?

주요 결과

• 시스템은 단지 7개의 대화 행동으로 63개의 노드와 272개의 간선을 가진 복잡한 대화 에이전트를 성공적으로 생성하여 수동 트리 작성 대비 상당한 확장성 향상을 보였다.
• Meta-Writer 보조 기능은 해결 불가능한 사양을 탐지하고, 부족한 행동이나 결과를 추가하는 등의 수정 조치를 제안하여 설계의 강건성을 향상시켰다.
• CDD 모드를 통해 계획기가 모든 필수 중간 행동을 자동으로 합성함으로써 설계자의 부담을 줄일 수 있었다.
• 이 프레임워크는 의미 해석을 통한 발화 추출 및 대화 로그에서의 결과 모델링을 포함하여 선언적 사양에서 실행 가능한 계획으로의 종단 간 컴파일을 지원한다.
• 시스템의 프로토타입 구현은 실현 가능성과 실용성을 입증하였으며, 디버깅, 시각화, 대화 에이전트의 반복적 개선 지원을 제공한다.
• 이 방법은 검증 가능하고 유지보수 용이한 대화 에이전트를 가능하게 하여 종단 간 학습 시스템의 핵심 한계를 해결한다.